定义人工通用智能

重塑人工智能的定义 (Chóngshā réngōng zhìnéng de dìngyì)

如何知道系统已经达到了AGI？

上周，Sam Altman被解雇了，不再担任OpenAI的CEO。他离职的真正原因仍然未知。根据董事会的说法，他被解雇是因为他“认为他在与董事会的沟通中不始终坦诚，阻碍了董事会行使职责的能力。” 这种模糊的解释引发了关于为什么解雇Altman的种种猜测。其中一些最佳理论包括：

• Altman将市场渗透置于安全和隐私测试之上
• Altman绕过了董事会进行了一项重大交易
• Altman的自负变得太大，并开始与公司的使命发生冲突

有趣的是，最引人注目的谣言之一指向了关于人工智能伦理的观点分歧，尤其是关于人工通用智能（“AGI”）的发展。虽然Altman一直是AGI潜力的积极倡导者，但谣言表明首席科学家Ilya Sutskever对OpenAI内部技术的快速发展产生了越来越多的担忧。

在这篇文章中，我们将总结来自Google DeepMind的新论文《AGI水平：在通往AGI道路上实现进展》的一些概念。这篇论文有助于定义AGI，建立评估AGI系统的框架，并总结了一些与AGI相关的潜在风险。

定义AGI

在人工智能（“AI”）领域，AGI是一类能够执行大多数人类水平任务的系统子集。从理论上讲，这些系统能够像人类一样广泛理解、学习和应用其智能。一个完整的AGI系统不会受限于它训练时使用的数据。相反，随着系统的存在，它可以收集信息并随着时间的推移学习。对于许多AI公司来说，AGI要么明确地，要么隐含地是他们的长期目标。目前，尽管在LLM和人工智能等方面取得了快速发展，AGI尚未实现。然而，AGI似乎比以往更接近。

• 通过与Sandeep Singh一起探索Gen AI的下一个大趋势
• 微软研究院推出Florence-2：一种新颖的视觉基础模型，采用统一的基于提示的表征方法，可用于多种计算机视觉和视觉语言任务
• “产品特性如何影响用户保持度的分析的增强版本”

在论文中，DeepMind的研究人员概述了AGI的定义特征。 “认为，AGI的任何定义都应满足以下六个标准：”