局部可解释性（Local Interpretability）是指人工智能模型针对特定输入实例或数据点所做出的预测结果进行解释的能力。它聚焦于单个决策点，而非模型整体行为，通过识别影响该预测的关键特征或因素，帮助用户理解模型在特定情境下的行为逻辑。例如，解释一个图像分类模型为何将某张图片识别为「猫」，而非全局模型规则。
在AI产品开发实际落地中，局部可解释性对于增强用户信任、确保公平合规至关重要。产品经理可借助工具如LIME或SHAP，向最终用户提供直观解释，如在金融风控产品中展示贷款拒绝原因，或在医疗诊断产品中阐明预测依据，这不仅提升透明度和用户体验，还支持模型调试和监管要求。延伸阅读推荐：Marco Ribeiro等的论文『Why Should I Trust You? Explaining the Predictions of Any Classifier』（2016），详细介绍了局部解释方法LIME。
免费模拟面试：试试能否通过大厂“AI产品经理”面试？