模型可解释性再探：SHAP及其后续发展
Exploring Model Explainability SHAP and Its Developments
大型语言模型的快速崛起近几个月以来主导了人们对人工智能的讨论，这是可以理解的，考虑到LLMs的新颖性和它们被迅速整合到数据科学和机器学习专业人员的日常工作流程中。
然而，对模型性能和风险的长期关注仍然至关重要，解释性是这些问题的核心：模型是如何产生预测结果的？黑匣子里面有什么？
本周，我们将回到模型可解释性的话题，并介绍几篇最近的文章，以细致入微的方式解决其复杂性，并为从业者提供实际操作的方法。祝学习愉快！
- 任何可解释性挑战的核心问题是，数据中的哪些特征对模型的预测结果做出了最大的贡献。Khouloud El Alami的SHAP特征重要性分析入门是一份适合初学者的资源，基于作者在Spotify的研究项目。
- 如果你以前已经使用过SHAP并且希望扩展你的工具包，Conor O’Sullivan提供了一份实用指南，介绍如何处理更专业的使用案例，包括如何显示用于分类问题的SHAP图和如何聚合多类目标的SHAP值。
- 为了对模型可解释性所带来的可能性有一个新的视角，不要错过Diksha Sen Chaudhury最近关于将医疗数据和机器学习结合起来的项目的文章。Diksha的目标是展示如何使用SHAP使模型不仅可解释，而且对于希望将结果与医学文献中的发现进行对比的研究人员也是有用的。
- 正如Vegard Flovik所言，“对于安全重要的重资产行业的应用来说，错误可能导致灾难性后果，缺乏透明度可能成为采用的主要障碍。”为了弥补这一差距，Vegard提供了一份关于开源Iguanas框架的详细指南，并展示了如何利用其自动生成规则的能力来提高可解释性。
- 尽管SHAP值在许多实际场景中证明了其益处，但它们也有局限性。Samuele Mazzanti警告不要过分依赖（双关语！）特征重要性，并建议同样关注错误贡献，因为“一个特征的重要性并不意味着它对模型有益。”
我们知道九月初对许多人来说是一个繁忙的时期，但如果你有更多时间可以用来阅读，这周我们的其他推荐阅读都不会错：
- 如果你现在正在参加数据科学训练营，或者计划将来参加，那么你必须阅读Alexandra Oberemok的全面指南，以充分利用这次经历。
- 长跑者，请注意：barrysmyth的新深度探索通过马拉松数据评估不同的优化策略。
- 在他的首篇TDS文章中，Christian Burke带我们走进一个创新的MOMA生成AI艺术项目的幕后故事，他在其中扮演了一个关键角色。
- Olga Chernytska分享了她优秀的“构建更好的机器学习系统”系列的新作品，这次聚焦于基准、度量和测试集相关的一切。
- 不确定如何处理缺失数据？Miriam Santos提供了一份关于这个长期问题的一站式资源，并解释了如何在现实数据集中识别和标记缺失值。
- 如果你想深入了解技术解释，Antonieta Mastrogiuseppe对梯度下降算法的概述清晰而完善。
感谢您支持我们作者的工作！如果您喜欢在TDS上阅读的文章，请考虑成为VoAGI会员——它可以解锁我们的整个存档（以及VoAGI上的每篇文章）。
