应对雄心勃勃的人工智能监管的一种强化过程：来自牛津研究的三步解决方案
强化人工智能监管：牛津研究的三步解决方案
如果您是负责任的经理、产品负责人、项目经理或参与AI项目的数据科学家，牛津研究将您确定为AI监管的关键角色。
提前了解欧盟AI法案对您意味着什么，以及牛津研究员建议如何遵守。
如果您喜欢，请点击掌声按钮（提示：您可以长按以提供多达50次掌声！）
AI：创新vs.监管
人工智能监管已成为全球各国政府关注的焦点。尽管这一热门话题的政策仍处于初级阶段，但政策制定者明确面临一个权衡决策。
创新与监管
这是一个古老的故事。你是放任AI的好处和危险，希望自由市场在过程中找到解决办法？还是你试图限制和避免AI的重大危害，以牺牲降低的商业投资为代价？
正如我在上一篇文章中讨论的那样，欧盟已经明确了他们的立场。
人工智能法案-对全球有影响的欧盟法律
欧盟提议的人工智能法案的广度令人震惊。它可能会影响到…
VoAGI.com
欧盟的AI法案对欧盟市场内的AI使用采取了强硬立场。任何在欧盟内外希望以AI产品/系统进入欧盟的人都必须遵守AI法案。这相当于数据保护方面的GDPR。
它对AI的定义也是广泛的，故意如此。该草案法律的序言专注于AI的使用，而不是其技术构成。该法案对AI的定义包括：
机器学习方法：监督学习、无监督学习和强化学习、深度学习；
逻辑或基于知识的方法：知识表示、归纳（逻辑）编程、知识库、推理和演绎引擎、（符号）推理和专家系统；
统计方法：贝叶斯估计、搜索和优化方法。
他们提议的法律的核心部分是对被认定为高风险的AI系统进行符合性评估。这使用了AI系统必须努力减少风险和解决任何被认为缺乏信任的问题的核心理念。
更具体地说：
对AI技术的设计、开发和使用进行仔细监控，并评估这些技术的伦理、法律和社会影响
（来源- CapAI）
上述引用来自牛津研究员的一篇关于他们的AI符合性评估过程capAI的出版物。
要习惯这一点，您可能会在接下来的2-3年中听到更多相关内容。
注意：我直接引用了capAI的文本，如果您想自己阅读，请点击此处。
capAI – 牛津的符合性评估
那么capAI是什么？它是与欧盟人工智能法案一致的AI系统进行符合性评估的程序。它提供了高级道德如何转化为帮助塑造AI设计、实施和使用的程序的实用指南。
用研究人员自己的话说，它大致有两个用例。
“高风险AI系统”提供者需证明符合欧盟的AI法案。
“低风险AI系统”提供者需落实其对自愿行为准则的承诺。
(来源 — CapAI)
合规评估本身包括三个组成部分：IRP，SDS，ESC。
- 内部审查协议（IRP）
- 摘要数据表（SDS）
- 外部评分卡（ESC）
（每次看到它们在一起时，我就会想起CTRL，ALT，DEL）
研究人员声称，这些组成部分共同提供了全面的审计，证明符合AI法案。内部审查流程似乎是最全面的要求，并强调了需要考虑和重要记录的许多要点。
让我们来看看每个组成部分：
内部审查协议（IRP）
这是一个用于质量保证和风险管理的内部治理模型。
- 内部文件，不面向公众
- 支持技术文档的起草
- 它侧重于帮助利益相关者管理其AI系统的“AI生命周期”的5个阶段。
- 设计、开发、评估、运营、退役
- 概述了AI生命周期每个阶段内四个关键利益相关者的角色、责任和注意事项
- 负责人、项目经理、产品负责人和数据科学家
例如，数据科学家在开发和评估阶段中扮演重要角色。作为一名数据科学家，你是否考虑过这些问题？你能提供证据吗？你在回答问题时是否与其他利益相关者保持一致？
开发 — 模型开发文档：
- 组织是否记录了训练环境中的AI性能？
- 是否记录并证明了超参数的设置？
评估 — 模型测试：
- 组织是否记录了测试环境中的AI性能？
- 测试是否涵盖了鲁棒性和歧视风险？你是否了解要测试的因素？这些因素是否包含在项目经理确定的风险中？
- 模型是否经过了极端值和受保护属性的性能测试？
- 已经确定了故障模式（FMEA — 故障模式与效果分析），例如错误曲线、过度拟合分析和错误预测的探索。
- 是否解决了关键故障模式？
摘要数据表（SDS）
AI法案的一项义务要求利益相关者公开注册其AI系统。这提供了指导。
- 面向外部的文件
- AI系统目的、功能和性能的摘要
外部评分卡（ESC）
- 面向外部的文件
- 总结了IRP的关键要素供公众参考
- 目的、价值、数据和治理
结束语
这里有很多内容需要解析。一开始，它似乎令人生畏。向capAI团队致敬，这是对一个相当广泛的法律提供了一些指导的重要进展。
需要注意的是，这项法律可能要到2025年才最终确定，并有2年的时间来遵守。研究并没有等待，从事这项工作的人肯定做了功课。
当这项法律生效时，组织内的各个部门需要合作来做好准备。组织越大，要在各利益相关者之间保持一致就越困难。对于规模较小的公司来说，在上市之前遵守EU市场（对于高风险系统）的合规性和文件管理的负担，是资源管理和专业知识领域的挑战。
感谢阅读！如果你喜欢这篇文章，请点赞，我将进一步探讨数据科学/产品负责人的影响。
如果您对此对您的业务可能产生的影响有任何疑虑，或者想了解更多信息，请联系我们！
