使用更通用的AI工具优化计算机系统
Optimize computer systems using more versatile AI tools.
MuZero、AlphaZero和AlphaDev如何帮助优化支撑我们设备世界的整个计算生态系统
人工智能(AI)算法每天都在变得越来越复杂,每个算法都旨在以最佳方式解决问题。作为我们努力构建能力越来越强和通用的AI系统的一部分,我们正在努力创建具有广泛世界理解的AI工具,以便有用的知识可以在许多不同类型的任务之间传递。
基于强化学习,我们的AI模型AlphaZero和MuZero在赢得游戏方面已经达到了超人类的表现。现在,它们正在扩展其功能,帮助优化数据中心和视频压缩。最近,我们的专门版本AlphaZero,称为AlphaDev,发现了一些新的算法,已经加速了我们数字社会基础软件的发展。
尽管这些工具正在计算生态系统中创造效率的飞跃,但早期结果显示了更通用AI工具的变革潜力。在这里,我们将解释这些进步如何塑造计算的未来,并已经帮助了数十亿人类和整个地球。
优化数据中心资源
数据中心负责管理从提供搜索结果到处理数据集的一切。Borg在Google内部管理数十亿个任务,将这些工作负载分配得像多维俄罗斯方块游戏一样。这个系统有助于优化内部基础设施服务、面向用户的产品(如Google Workspace和搜索)以及批处理的任务。
- 认识DragonDiffusion:一种细粒度图像编辑方法,可以在扩散模型上实现拖拽式操作
- 你的开源LLM项目有多大风险?一项新的研究解释了与开源LLMs相关的风险因素
- OpenAI介绍超级对齐:为安全和对齐的人工智能铺平道路
Borg使用手动编码的规则来调度任务以管理这些工作负载。在Google的规模下,这些手动编码的规则无法考虑到多样化的不断变化的工作负载分布,因此它们被设计为“一刀切最适合所有”。这就是像AlphaZero这样的机器学习技术特别有帮助的地方:这些算法能够自动创建适合不同工作负载分布更高效的个别定制规则。
在训练过程中,AlphaZero学会了识别进入数据中心的任务模式,还学会了预测管理容量和做出具有最佳长期结果的决策的最佳方式。
当我们将AlphaZero应用于Borg时,生产中的实验性试验表明,这种方法可以减少多达19%的未使用硬件数量,优化了Google数据中心的资源利用率。
视频压缩的下一步
视频流占据了互联网流量的大部分,消耗了大量的数据。因此,无论大小,找到这个过程中的效率都会对每天观看视频的数百万人产生巨大影响。
去年,我们与YouTube合作,利用MuZero的问题解决能力来帮助压缩和传输视频。通过在不影响视觉质量的情况下将比特率降低4%,MuZero提升了整体的YouTube体验。
我们最初将MuZero应用于优化视频内每个单独帧的压缩。现在,我们将这项工作扩展到对帧的分组和编码期间的决策,从而实现更多比特率的节省。
从这前两个步骤的早期结果来看,MuZero具有成为更通用工具的巨大潜力,有助于找到整个视频压缩过程中的最佳解决方案。
发现更快的算法
最近,AlphaDev,即AlphaZero的一个版本,在计算机科学领域取得了一个新的突破,发现了更快的排序和哈希算法,这两个基本过程每天被使用数万亿次来对数据进行排序、存储和检索。
排序算法影响着所有数字设备处理和显示信息的方式,从在线搜索结果和社交帖子的排名到用户推荐。AlphaDev发现了一个算法,可以将短序列元素的排序效率提高70%,对于超过250,000个元素的序列,提高了约1.7%,与C++库中的算法相比。因此,当用户提交搜索查询时,AlphaDev的算法可以帮助更快地对结果进行排序。当规模化使用时,它能节省大量的时间和能源。
AlphaDev还发现了一种更快的信息哈希算法,这种算法通常用于数据存储和检索,比如在客户数据库中。哈希算法通常使用一个键(例如用户名“Jane Doe”)生成一个唯一的哈希值,该哈希值对应需要检索的数据值(例如“订单号164335-87”)。
就像图书管理员使用分类系统快速找到特定书籍一样,使用哈希系统,计算机已经知道它要找的是什么以及在哪里找到它。当应用于数据中心的9-16字节范围的哈希函数时,AlphaDev的算法将效率提高了30%。
自从在LLVM标准C++库中发布排序算法(用RL生成的替代了使用了十多年的子程序)以及在abseil库中发布哈希算法后,数百万开发人员和公司现在在云计算、在线购物和供应链管理等各个行业中使用这些算法。
通用工具推动我们的数字未来
从玩游戏到解决设备核心的复杂工程问题,我们的AI工具正在为数十亿人节省时间和能量。而这只是个开始。
我们设想一个未来,在更多通用AI工具的帮助下,可以优化支撑数字世界的整个计算生态系统。但为了支持这些工具,我们需要更快、更高效、更可持续的数字基础设施。
为了实现完全通用化的AI工具,还需要更多的理论和技术突破。通用AI工具的变革潜力以及它们在技术、科学和医学等各个领域面临的各种挑战。我们对未来充满期待。
了解更多关于排序算法的信息:
阅读我们的博客:https://www.deepmind.com/blog/alphadev-discovers-faster-sorting-algorithms
阅读我们在Nature上的论文:https://www.nature.com/articles/s41586-023-06004-9