提示注入攻击（Prompt Injection Attack）是一种针对大型语言模型（LLM）的安全威胁，攻击者通过精心构造的输入提示（prompt），诱导模型输出非预期内容，如泄露敏感数据、生成有害信息或绕过安全限制。这种攻击利用了模型对提示指令的依赖性，可能导致严重的隐私泄露或系统滥用风险。
在AI产品开发实际落地中，产品经理需高度关注此类攻击的防御策略，例如通过输入过滤、提示工程优化和安全层设计来增强系统鲁棒性。这不仅关乎用户体验和合规性（如GDPR），还能提升产品的可信度与市场竞争力，避免因安全漏洞引发的声誉损失或法律纠纷。
免费模拟面试：试试能否通过大厂“AI产品经理”面试？