今天研读 《Adversarial examples in the physical world》 物理拍摄对抗样本的 demo 视频：Demo 1. 物理世界中的对抗样本攻击 许多机器学习模型对于对抗样本十分脆弱。对抗样本是一种对干净样本施加微小扰动，使得机器学习模型在推理期产生误判的攻击方法。
发布于 2026-09-30
今天研读 Bengio 的《A Neural Probabilistic Language Model》 一句话概括：本文提出通过联合学习词的分布式表征与基于神经网络的概率函数来应对维数灾难，利用词的相似性使未见序列获得合理概率并有效利用更长上下文，实验表明其建模表现相较于传统 n-gram 模型有
发布于 2026-09-28
今天研读《Adversarial Diffusion Model: Generating High-Quality and Undetectable Images From Scratch》 一句话概述本文：作者提出了一种在预训练扩散模型上“直接从头生成”的方法，旨在避免后处理引入的失真，从而直接生
发布于 2026-09-24
今天研读《Explaining and Harnessing Adversarial Examples》，对抗样本领域的奠基性著作。 1. 对抗样本的发现与归因分析 前人研究发现，包含神经网络在内的多种机器学习模型均对于“对抗样本”展现出脆弱性。而对抗样本仅与来自数据分布的正确分类样本存在微小差异。
发布于 2026-09-22
今天来做第二章的习题。 我的思考： 训练集的作用是进行参数学习；验证集的作用是选择合适的模型以及超参数组合；测试集的作用是完成模型的最终评估，衡量其在未见样本上的表现。 测试集不参与模型选择和超参数调节的原因是：避免数据泄露，防止模型提前学习到测试集中的一些信息（如数据分布特征等），造成测试结果过于
发布于 2026-09-20
在 Day 6 中学习了机器学习算法的类型与数据的特征表示，今天来学习一些机器学习领域中比较有指导性的理论。 1. PAC 学习理论 计算学习理论是一套能够分析问题难度、计算模型能力，为学习算法提供理论保证，并指导机器学习模型和学习算法的设计的理论。其中最基础的是可能近似正确（Probably Ap
发布于 2026-09-20
在 Day 5 中，我们一起学习了偏差-方差分解的思想。今天来学习机器学习算法的类型与数据的特征表示。 1. 机器学习算法的类型 我们可以依据训练样本中提供的信息以及学习过程中的反馈形式来区分不同范式。 监督学习 监督学习指的是如下这种机器学习范式： 目标是建模样本特征 𝒙
发布于 2026-09-19
在 Day 4 中，我们以简单的线性回归为例，学习了四种机器学习中最常见的参数估计方法。今天来一起学习偏差-方差分解。 1. 偏差-方差分解概述 我们经常会遇到一个问题：拟合能力强的模型一般复杂度会比较高，容易导致过拟合；相反，如果限制模型的复杂度，降低其拟合能力，又可能会导致欠拟合。因此，机器学习
发布于 2026-09-18
在 Day 3 中，我们学习了机器学习算法的优化算法与评价指标，今天通过简单的线性回归模型来具体了解机器学习的一般过程，以及不同学习准则（经验风险最小化、结构风险最小化、最大似然估计、 最大后验估计）之间的关系。 1. 线性回归 线性回归是一种对自变量和因变量之间关系进行建模的回归分析。自变量数量为
发布于 2026-09-17
在 Day 2 中，我们学习了机器学习算法的一般学习准则。今天继续学习优化算法与评价指标。 1. 优化算法 现在我们确定了训练集 𝒟 、假设空间 ℱ 以及学习准则，我们要做的是找到最优的模型 𝑓(𝒙;𝜃*) 。这是一个最优化问题。机器学习的训练过程本质上就是最优化问题的求解过程。 参数与超参
发布于 2026-09-12
