个人技术分享

DRIVEN｜15分的CNN+LightGBM怎么做特征分类，适用于转录组

呼吸暂停和呼吸不足是常见的睡眠障碍，其特征是气道阻塞。多导睡眠图 (PSG) 是一种睡眠研究，通常用于计算呼吸暂停-呼吸不足指数 (AHI)，即一个人每小时睡眠中呼吸暂停或某些类型的呼吸不足的次数，并诊断睡眠障碍的严重程度。及早发现和治疗呼吸暂停可以显著降低发病率和死亡率。然而，长期 PSG 监测是不可行的，因为它对患者来说既昂贵又不舒服。为了解决这些问题，我们提出了一种名为DRIVEN的方法，通过可穿戴设备在家中估计 AHI，并检测整个晚上何时发生呼吸暂停、呼吸不足和清醒期。

LSTM 循环神经网络原理深度解读与网络结构精细剖析

LSTM是一种巧妙应对RNN固有挑战的架构创新，它并未直接对RNN的权重矩阵进行特征值调整以解决梯度消失/爆炸问题，而是通过引入参数化的门控单元以及细胞状态这一特殊结构，构建了一条非权重依赖的线性信息传播路径，从而绕开了传统RNN中导致长期依赖学习困难的权重参数W。

神经网络与深度学习——第14章 深度强化学习

本文讨论的内容参考自《神经网络与深度学习》https://nndl.github.io/ 第14章 深度强化学习深度强化学习强化学习（Reinforcement Learning，RL），也叫增强学习，是指一类从与环境交互中不断学习的问题以及解决这类问题的方法，强化学习可以描述为一个智能体从与环境交互中不断学习以完成特定目标（比如取得最大奖励值）。和深度学习类似，强化学习中的关键问题也是贡献度分配问题（即一个系统中不同的组件（component）对最终输出结果的贡献或影响），每一个动作并不能直接得到监督

TensorFlow Playground神经网络演示工具使用方法详解

在TensorFlow Playground中，特征是从原始数据中提取或计算得到的变量。这些变量作为神经网络的输入，用于模型的训练和预测。页面左侧的“Features”部分列出了可以选择和构造的各种特征。输出是指模型在接收到输入数据后，通过各层处理和计算，最终生成的预测结果。在分类任务中，输出通常是一个类别标签；在回归任务中，输出是一个连续值。在TensorFlow Playground中，用户可以直观地看到模型的输出如何随着训练过程的推进而变化。

【人工智能Ⅱ】实验8：生成对抗网络

实验8：生成对抗网络一：实验目的1：理解生成对抗网络的基本原理。2：学会构建改进的生成对抗网络，如DCGAN、WGAN、WGAN-GP等。3：学习在更为真实的数据集上应用生成对抗网络的方法。二：实验要求1：理解生成对抗网络改进算法的改进内容和改进目的。2：参考课程资源中的2024年春第八次实验代码，完成生成对抗网络改进算法WGAN或DCGAN网络的实现。3：在Fashion MNIST数据集上验证生成对抗网络改进算法的效果，并对其进行调优。4：在玉米数据集上验证生

深度神经网络——贝叶斯与朴素贝叶斯定理

贝叶斯定理是概率论中一个非常重要的概念，它提供了一种在已知某些相关事件的概率时，计算另一个事件发生概率的方法。在你提供的内容中，贝叶斯定理被描述为一种“魔法”，因为它能够使计算机通过分析大量的数据来预测人们可能想要的结果，例如搜索引擎如何理解用户搜索“自动系鞋带的电影”时可能指的是《回到未来》。

【基于LSTM的多输出数据回归预测】Matlab代码

在当前的数据驱动时代，预测未来的趋势、需求、资源分配等成为了许多行业关键决策的基石。长短期记忆网络（Long Short-Term Memory, LSTM）作为一种特殊的循环神经网络（RNN），因其在处理时间序列数据上的卓越性能而受到广泛关注。LSTM能够学习长期依赖信息，解决了传统RNN在长序列学习过程中的梯度消失问题。

BPTT算法详解：深入探究循环神经网络（RNN）中的梯度计算【原理理解】

在深度学习领域中，我们经常处理的是独立同分布（i.i.d）的数据，比如图像分类、文本生成等任务，其中每个样本之间相互独立。然而，在现实生活中，许多数据具有时序结构，例如语言模型中的单词序列、股票价格随时间的变化、视频中的帧等。对于这类具有时序关系的数据，传统的深度学习模型可能无法很好地捕捉到其内在的 时间相关性 。为了解决这一问题，循环神经网络（Recurrent Neural Network, RNN）被广泛应用于处理时序数据。首先，让我们来了解一下常见的循环神经网络结构。在 RNN 中，隐藏状态会随着时

垂域LLM训练经验之谈

全参 SFTLora SFTLora 继续预训练Llama pro 预训练 + SFT预训练数据：由SFT数据的Query 与 Answer 的拼接SFT数据：由GPT4根据垂域文档抽取问答对+人工挑选而来，大概20000条，其中包括公司的介绍自我认知数据：大概200条，从公开的自我认知数据整理而来匠数科技大模型sft数据集显卡训练框架基座模型Qwen1.5-7B1、全参微调学东西最快2、lora要学习垂域知识，得多训几个epoch才行，或者对数据集进行过采样。

神经网络与深度学习——第3章 线性模型

线性模型线性模型（Linear Model）是机器学习中应用最广泛的模型，指通过样本特征的线性组合来进行预测的模型，给定一个DDD维样本x=[x1,...,xD]T\bm x = [x_1,...,x_D]^Tx=[x1​,...,xD​]T，其线性组合函数为在分类问题中，由于输出目标yyy是一些离散的标签，而f(x;ω)f(\bm x;\bm \omega)f(x;ω)的值域为实数，因此无法直接用f(x;ω)f(\bm x;\bm \omega)f(x;ω)来进行预测，需要引入一个非线性的决策函数g