摘要： 泛化挑战：从输入空间 \(\mathcal X\) 与输出空间 \(\mathcal Y\) 的联合分布中，仅能有限采样得到训练数据集 \(\mathcal D_{\text{train}} = \{(x_i, y_i)\}_{i=1}^n\) ，目的是寻找真实映射函数 \(f^*:\mathcal 阅读全文

摘要： PyTorch基础 一、简介 PyTorch是由Meta（原 Facebook）人工智能团队开发的开源深度学习框架，主要用于构建和训练神经网络，支持动态计算图。自 2016 年发布以来迅速成为学术界和工业界的主流工具。 早期使用TensorFlow（由google团队开发），但逐步被PyTorch替 阅读全文

摘要： Batch Normalization（BN） 意义：意图解决内部协变量偏移问题，主要动态平滑优化 landscape 内部协变量偏移（Internal Covariate Shift, ICS）： 定义：在深度网络训练过程中，由于前层参数不断更新，导致后层的输入分布持续发生变化，导致优化路径曲折、 阅读全文

摘要： 一、数据集模块 ( datasets ) 1.1 数据集生成函数 1.1.1 生成回归任务数据集 make_regression(n_samples=100, n_features=100, n_informative=10, n_targets=1, bias=0.0, effective_ran 阅读全文

摘要： Python入门笔记-新手篇 一、变量与命名规则 1.0 变量名与值 变量名是值的容器，用于存储数值。实际上，数值存储在内存中，变量名是数值内存的访问地址的别名（可理解为名称）， 1.1 变量命名规范 必须遵守（硬性要求） 长度建议 不超过 256 个字符（虽无强制限制，但过长影响可读性）。 不能包 阅读全文

摘要： 深度学习-符号字典 一、线性代数 符号约定 类型（英文） 符号表示 示例 标记格式 含义 维度 其他表示 标量（scalar） 小写斜体 \(x\) x 单个元素 \(x \in \mathbb R\) 向量元素：带脚标 \(i\) 小写斜体 \(x_{i}\) 表示向量 \(\mathbf x\) 阅读全文

摘要： PyTorch安装教程 PyTorch介绍 PyTorch是基于Torch的python版本的机器学习库，是由Facebook开源的神经网络框架，专门针对 GPU 加速的深度神经网络(DNN)编程。Torch是一个经典的对多维矩阵数据进行操作的张量(tensor)库，底层由 C++ 实现，在机器学习 阅读全文

摘要： XGBoost 任务要求：对二分类数据集 \(\mathcal{D}=\{(x_i,y_i)\}_{i=1}^n\)训练模型，前 \(t-1\) 树已训练完成，此时在第 \(t\) 轮我们要学习一棵新树 \(f_t\)，来改进当前预测值\(\hat y_i^{(t-1)}\)，目标是最小化训练集上的 阅读全文

摘要： 一、神经网络基础 人工神经元（Artificial Neuron）：又单神经元结构，叫受生物神经元（Biological Neuron）启发而构建的可微分计算单元，其设计融合了线性判别与非线性响应（门控）两个关键机制。是神经网络中前向传播的基本单位 神经元结构：对于输入样本\(\mathbf x=( 阅读全文

摘要： Python入门笔记-介绍篇 〇、学习顺序 认识（面熟） 了解（分辨） 掌握（使用） 底层（进阶） 建议的学习习惯： 认识了就应当学会使用，带着目的（任务）学才能高效率学习【干中学】 编程是一片巨大的英文土壤，必须学会或者至少看懂英文及其简写，并且是以专业术语构建的知识领域 一、Python 介绍 阅读全文