推动负责任人工智能的新伙伴关系
促进负责任人工智能的新合作
编辑注：今天，谷歌、微软、OpenAI和Anthropic发布了以下联合声明，成立了Frontier Model Forum。
今天，Anthropic、谷歌、微软和OpenAI宣布成立Frontier Model Forum，这是一个新的行业机构，专注于确保前沿AI模型的安全和负责任的发展。Frontier Model Forum将借助其成员公司的技术和运营经验，造福整个AI生态系统，例如通过推进技术评估和基准的发展，并开发一个公共解决方案库，以支持行业最佳实践和标准。
该论坛的核心目标是：
- 推进AI安全研究，促进前沿模型的负责任发展，最小化风险，并实现独立、标准化能力和安全性评估。
- 确定最佳实践，以负责任的方式开发和部署前沿模型，帮助公众了解这项技术的性质、能力、限制和影响。
- 与决策者、学者、公民社会和公司合作，分享有关信任和安全风险的知识。
- 支持开发能够应对社会最大挑战的应用程序，例如气候变化的减缓和适应、早期癌症的检测和预防以及打击网络威胁。
会员资格
该论坛将前沿模型定义为超过当前最先进模型能力的大规模机器学习模型，能够执行各种任务。
会员资格开放给符合以下条件的组织：
- 开发和部署前沿模型（由论坛定义）。
- 通过技术和制度方法表现出对前沿模型安全的强烈承诺。
- 愿意为推进论坛的努力作出贡献，包括参与联合倡议、支持倡议的发展和运作。
该论坛欢迎符合这些条件的组织加入并共同努力，确保前沿AI模型的安全和负责任发展。
Frontier Model Forum将做什么
政府和工业界一致认为，虽然AI具有巨大的潜力造福世界，但需要适当的监管措施来减轻风险。美国、英国政府、欧盟、经济合作与发展组织（OECD）、G7（通过广岛人工智能进程）等已经为这些努力做出了重要贡献。
为了进一步推动这些努力，需要在安全标准和评估方面进行进一步工作，以确保负责任地开发和部署前沿AI模型。该论坛将成为跨组织讨论和行动的一个平台，关注AI安全和责任。
该论坛将在未来一年内专注于以下三个关键领域，支持前沿AI模型的安全和负责任发展：
确定最佳实践：在行业、政府、公民社会和学术界之间促进知识共享和最佳实践，重点关注安全标准和安全实践，以减轻各种潜在风险。
推进AI安全研究：通过确定AI安全领域最重要的开放性研究问题，支持AI安全生态系统。该论坛将协调研究，推进在对抗性鲁棒性、机械可解释性、可扩展监督、独立研究访问、新兴行为和异常检测等领域的努力。一开始将重点发展和共享前沿AI模型的技术评估和基准的公共库。
促进公司和政府之间的信息共享：建立可信赖的、安全的机制，用于公司、政府和相关利益相关者之间就AI安全和风险进行信息共享。该论坛将遵循来自网络安全等领域的负责任披露的最佳实践。
谷歌全球事务总裁肯特·沃克（Kent Walker）表示：“我们很高兴与其他领先的公司合作，共享技术专长，推动负责任的AI创新。我们将共同努力，确保AI造福于每个人。”
微软副主席兼总裁布拉德·史密斯（Brad Smith）表示：“开发AI技术的公司有责任确保其安全、安全，并始终处于人类控制之下。这个倡议是将科技行业团结起来负责任地推进AI和解决挑战，使其造福全人类的重要一步。”
OpenAI全球事务副总裁安娜·马坎茱（Anna Makanju）表示：“先进的AI技术有潜力深刻地造福社会，实现这个潜力需要监督和治理。AI公司，尤其是那些从事最强大模型研发的公司，需要在共同的基础上推进周到灵活的安全实践，以确保强大的AI工具能够产生最广泛的效益。这是一项紧迫的工作，这个论坛具备快速推进AI安全状况的能力。”
Anthropic首席执行官Dario Amodei表示：“Anthropic相信人工智能有潜力从根本上改变世界的运作方式。我们很高兴与行业、公民社会、政府和学术界合作，推动技术的安全和负责任发展。Frontier Model Forum将在协调最佳实践和分享前沿人工智能安全研究方面发挥重要作用。”
Frontier Model Forum的运作方式
在接下来的几个月里，Frontier Model Forum将成立一个咨询委员会，以帮助指导其战略和优先事项，代表各种背景和观点的多样性。
创始公司还将建立关键的机构安排，包括章程、治理和资金，设立一个工作组和执行委员会来领导这些工作。我们计划在未来几周内与公民社会和政府就论坛的设计以及有意义的合作方式进行磋商。
Frontier Model Forum欢迎为现有的政府和多边倡议提供支持和贡献，例如G7广岛进程、OECD关于人工智能风险、标准和社会影响的工作以及美欧贸易和技术委员会。
论坛还将致力于在各个工作领域上建立在现有行业、公民社会和研究工作的有价值努力基础上发展。像Partnership on AI和MLCommons这样的倡议在整个人工智能社区持续做出重要贡献，论坛将探索与这些和其他有价值的多利益相关方努力合作和支持的方式。
