后门攻击（Backdoor Attack）是指在机器学习模型训练过程中，恶意植入一个隐藏的触发器（trigger），使得模型在正常输入下表现正常，但当输入包含特定触发信号（如特定图案或数据特征）时，模型会输出预设的错误结果或恶意行为。这种攻击通常通过污染训练数据或修改模型参数实现，目的是在模型部署后利用触发器激活后门，从而破坏系统的可靠性、安全性和隐私性。
在AI产品开发的实际落地中，后门攻击构成严重的安全风险，产品经理需高度关注模型供应链的完整性。例如，在开发图像识别或自然语言处理产品时，应确保训练数据来源可信、采用防御机制如模型验证和异常检测，并通过安全审计工具扫描潜在后门。通过在设计阶段集成这些措施，可以有效预防攻击，保障AI系统的稳健性和用户信任。
如需进一步研究后门攻击的技术细节和防御策略，推荐阅读论文「BadNets: Identifying Vulnerabilities in the Machine Learning Model Supply Chain」（Tianyu Gu et al., 2017），该论文系统地探讨了后门植入的机制和应对方法。
免费模拟面试：试试能否通过大厂“AI产品经理”面试？