对抗性补丁（Adversarial Patch）是人工智能安全领域中一种针对深度学习模型的攻击方法，通过在输入数据（如图像）中添加一个精心设计的局部扰动区域（如一个物理贴纸或数字图案），使模型在特定任务中产生错误预测。这种补丁不同于全局对抗性扰动，它聚焦于小范围修改，能有效欺骗计算机视觉系统，例如让自动驾驶模型将停止标志误识别为其他物体，从而暴露模型的脆弱性。
在AI产品开发实际落地中，对抗性补丁研究至关重要，它揭示了模型鲁棒性的不足，推动开发者在测试阶段加强安全评估。通过模拟此类攻击，团队可设计防御机制如对抗训练或输入过滤，提升产品在自动驾驶、金融欺诈检测等关键场景的可靠性，促进更健壮AI系统的构建。
免费模拟面试：试试能否通过大厂“AI产品经理”面试？