烛夜的学习星空

深度学习安全之对抗样本篇 Day 3 —— 物理世界中的对抗样本攻击

今天研读 《Adversarial examples in the physical world》 物理拍摄对抗样本的 demo 视频:Demo 1. 物理世界中的对抗样本攻击 许多机器学习模型对于对抗样本十分脆弱。对抗样本是一种对干净样本施加微小扰动,使得机器学习模型在推理期产生误判的攻击方法。

烛夜 发布于 2026-09-30

深度学习安全之对抗样本篇 Day 2 —— 对抗扩散模型(ADM)

今天研读《Adversarial Diffusion Model: Generating High-Quality and Undetectable Images From Scratch》 一句话概述本文:作者提出了一种在预训练扩散模型上“直接从头生成”的方法,旨在避免后处理引入的失真,从而直接生

烛夜 发布于 2026-09-24

深度学习安全之对抗样本篇 Day 1 —— 对抗样本因何出现?

今天研读《Explaining and Harnessing Adversarial Examples》,对抗样本领域的奠基性著作。 1. 对抗样本的发现与归因分析 前人研究发现,包含神经网络在内的多种机器学习模型均对于“对抗样本”展现出脆弱性。而对抗样本仅与来自数据分布的正确分类样本存在微小差异。

烛夜 发布于 2026-09-22