机器学习风险管理的文化能力
机器学习风险管理的文化能力' can be condensed to '机器学习风险管理文化能力'.
组织文化是负责任的人工智能的重要组成部分。
想象一个人工智能（AI）驱动的系统永远不会出错，能够完美地执行任务而没有任何问题的世界。听起来像是科幻的梦想，不是吗？欢迎来到真实世界的人工智能，事情并不总是按计划进行。负责任的AI实践的一个重要组成部分是防止和解决我们所称之为“AI事故”的问题。本文讨论了可以预防和减轻AI事故的文化能力，重点关注推动负责任AI实践的概念。随后，我们将在未来的文章中探讨相关的业务流程，以提供对这一关键主题的全面视角。
关于本系列的一点说明
在我们开始本系列之前，提供一些背景信息是很重要的。我是《高风险应用的机器学习》一书的合着者之一，与Patrick Hall和James Curtis一起合作。本系列旨在为该书的广泛内容提供简洁、易读的补充。在每篇文章中，我们的目标是将该书中提出的关键见解、概念和实用策略浓缩为易于理解的部分，使这些知识对更广泛的受众可获得。
定义AI事故
在深入探讨机器学习安全性之前，解决AI事故是至关重要的，因为我们无法有效地减轻我们无法理解的问题。AI事故包括任何可能造成损害的AI系统产生的结果。这些事故的严重程度自然而然地取决于它们造成的损害程度。这些事故范围从相对较小的不便，比如购物中心的安全机器人跌落楼梯，到更严重的事件，比如自动驾驶汽车导致行人死亡和大规模转移医疗资源远离亟需的人群。
AI事故包括任何可能造成损害的AI系统产生的结果。
我们可以将AI事故分为三大类：
