不仅仅是爬行动物：探索鬣蜥的可解释人工智能工具箱，超越黑盒模型

探索鬣蜥的可解释人工智能工具箱，超越黑盒模型

随着越来越多的行业将机器学习作为决策过程的一部分采用，一个重要的问题出现了：当我们无法理解模型的推理过程时，我们如何信任这些模型，并且如何基于这些信息自信地做出重大决策？

对于安全关键的重资产行业应用而言，透明度的缺失可能是采用的一个主要障碍。这就是模型的可解释性和可解释性变得越来越重要的原因。

将模型想象成可理解性的光谱：复杂的深度神经网络位于一端，而透明的基于规则的系统位于另一端。在许多情况下，模型的输出既重要可解释也重要准确。

在本博客文章中，我们将探索一种从数据中直接生成规则集的方法，该方法可以构建一个完全透明和可解释的决策支持系统。然而，需要注意的是，并非所有情况都可以通过这种基本模型令人满意地解决。然而，通过使用简单的基线模型来开始任何建模工作，可以带来几个关键优势：

对于阅读本文的同行数据科学从业者：我承认这种方法与简单拟合决策树模型的相似之处。然而，随着继续阅读，您将看到这种方法被设计成模仿人类创建规则，这使得它比典型决策树模型的输出更容易解释（在实践中通常较困难）。