日本的AI监管- 没有假设？ 还是什么都不做？
日本AI监管：是应谨慎假设？还是无所作为？
日本为数字迁移制定了大计划，他们是否做好了准备？
如果你喜欢，请点击鼓掌（提示：你可以长按鼓掌按钮，提供多达50次鼓掌！）
偏见是任何模型在监管范围内的经常考虑因素之一。
生成性人工智能再次引发了我们对此的关注。根据我的经验，与使用或受到依赖人工智能产品做出决策的个人有关的对话很快就会集中在影响上。这是值得关注的合理影响，因为“信任因素”是至关重要的。
然而，偏见的挑战远不止于用户层面的应用。偏见的核心从模型训练所使用的数据的基础开始。不仅如此，它还延伸到我们日常使用的捕捉数据和知识的语言的核心。忽视这一点会带来实际成本。
本周我回想起2009年一个大型银行的一场宣传活动。
银行计划推出私人银行改版
来自《金融时报》的新闻、分析和评论，全球领先的商业刊物
www.ft.com
本质上，该宣传活动针对净资产较高的客户，传达了“没有假设”的信息。在西方世界，这个宣传活动很有意义。“不对你的账户处理作出任何假设！”然而，在新兴市场中使用基本翻译的情况下，翻译成了“什么都不做”。
这让我想到了什么？类似的挑战正面临着尚未在其他应用中广泛见到的生成性人工智能模型。
这就是为什么日本正准备自己建设ChatGPT
日本研究人员希望一个精确、有效且“made-in-Japan”的人工智能聊天机器人能够加速科学进展…
interestingengineering.com
日本的研究人员宣布他们打算自行开发大型语言模型（LLM）。具体而言，ChatGPT在日本用户的视角下被认为效率不高，原因是其主要基于英语语言数据训练，无法理解日本文化和语言的复杂性。
这是一个有趣的发展。
对于研究人员来说，这是一个积极的进展，但这也对日本关于人工智能治理的整体思考提出了问题。
到目前为止，在我的帖子中，我几乎只谈到了“硬性方法”在人工智能监管中的应用领域。这包括公开登记人工智能模型，在市场使用之前明确评估模型的风险，以及明确禁止在使用案例中使用人工智能模型（特别是安全和个人可识别图像和/或数据）。
一种应对雄心勃勃的人工智能监管的增强型过程：来自牛津研究的3步解决方案
你是一个AI产品负责人、项目经理或数据科学家吗？牛津研究已将您视为关键参与者…
pub.towardsai.net
另一方面，日本主张采取软性或“敏捷”的监管方法。在网络上搜寻，我发现对生成性人工智能作出了两项明确的法律变更。
1) 放松版权法，使模型开发者能够在创新时无需担心后果。《权力的游戏》的粉丝们知道这是一个真正的问题，乔治·R·R·马丁（及其他人）对Open AI进行了法律诉讼（链接）
2) 《高压气体安全法》修正案允许使用技术，包括人工智能和无人机，对气体工厂进行安全检查，而无需长时间关闭。
第二点起初读起来有点突兀。然而，日本正进一步系统评估和重写其监管框架，采取一种根本上反模拟的方法。引用如下：
“模拟规定是指在法律或法令中规定的要求必须有人参与，例如使用人眼进行确认、面对面的程序或在特定场所需要有人员永久驻留等。此类规定被认为是阻碍社会数字化的。”
政府于10月27日决定废除大约99%的需要人为操作的模拟规定
www.asahi.com
有了如此广泛的数字化任务，您可能会想到对于数据、模型和技术的治理会是首要考虑的问题。然而，对于具体落实人工智能方面依然存在犹豫不决。
日本政策制定者对于人工智能的核心思考是关于社会原则和敏捷治理的理念。
社会原则
1) 以人为本
2) 教育和识字能力
3) 隐私保护
4) 保证安全
5) 公平竞争
6) 公平、问责和透明；以及
7) 创新
这些被认为是“从事人工智能研发和社会实施的开发者和运营者应该关注的核心原则”。并且补充说“为了促进人工智能的适当和积极社会实施，建立每个利益相关者应该牢记的基本原则非常重要。”
敏捷治理
这是一种根据上述社会原则来治理人工智能模型的方法。下图中列举了多个问题和考虑因素的范例：
– 计划和设计阶段：上下文
– 计划和设计阶段：总体设计
– 开发阶段：数据
– 开发阶段：模型/系统
– 运行和监控阶段
许多样本问题和开发者面临的挑战与欧盟的人工智能法相重叠，欧盟的方向是采取非常具体规定的方式来应对人工智能的挑战。看到在风险管理的基本构建块上有一致性是令人鼓舞的。
主要的区别在于日本机构所拥有的信任和时间要素。有一种假设，公司将自愿遵守这些原则和治理指南，超出一些非常针对行业的规定。
对此的决策似乎以两种形式出现，一种是渴望让创新发挥最大价值，另一种是在全面了解实施范围之前，对“硬法”存在犹豫感。
没有假设？ 还是 无所作为？
感谢阅读！如果您喜欢，请点赞，我还将深入探讨立法对风险、模型和数据的影响。
如果您对此有任何疑虑或希望了解更多，请联系我们！
