AI研究的良性循环
AI研究的良性循环
查看开放职位:https://www.deepmind.com/careers/jobs?sort=alphabetical
我们最近与DeepMind的研究科学家Petar Veličković进行了交流。与他的合著者一起,Petar将在ICML 2022(美国马里兰州巴尔的摩)上展示他的论文《CLRS算法推理基准》。
我加入DeepMind的经历…
在剑桥大学的本科课程中,不能熟练玩围棋被视为现代深度学习系统的不足之处的明显证据。我一直想知道如何掌握这样的游戏可能逃脱不可能的领域。
然而,在2016年初,就在我开始攻读机器学习博士学位的时候,一切都发生了变化。DeepMind接受了世界上最好的围棋选手的挑战赛,我为此花了几个不眠之夜观看。DeepMind赢得了比赛,并在此过程中产生了具有突破性的游戏方式(例如“Move 37”)。
从那时起,我将DeepMind视为一个能够实现看似不可能的事情的公司。因此,我努力将自己的精力投入到有朝一日加入该公司的工作中。在2019年初提交博士论文后不久,我开始了在DeepMind担任研究科学家的旅程!
我的角色…
我的角色是一个学习、研究、交流和咨询的良性循环。我一直积极尝试学习新知识(最近是范畴论,一种研究计算结构的迷人方式),阅读相关文献,并观看讲座和研讨会。
然后,我与我的团队成员一起进行头脑风暴,探讨如何扩大这一知识领域,为世界带来积极影响。从这些讨论中诞生了想法,我们利用理论分析和编程的组合来制定和验证我们的假设。如果我们的方法取得了成果,我们通常会撰写一篇论文与更广泛的社区分享我们的见解。
研究一个结果如果没有适当地传播和赋予他人有效利用的能力,将几乎没有价值。因此,我花了很多时间在像ICML这样的会议上展示我们的工作,发表演讲,并共同指导学生。这通常会导致建立新的联系和发现新的科学结果供我们探索,再次开启良性循环!
在ICML上…
我们将在我们的论文《CLRS算法推理基准》上进行重点展示,希望能够支持和丰富神经算法推理领域的努力。在这项研究中,我们将图神经网络任务化为执行《算法导论》教科书中的三十个不同算法。
最近的许多研究努力旨在构建能够执行算法计算的神经网络,主要是为了赋予它们推理能力 – 这是神经网络通常所缺乏的。关键是,这些论文中的每一篇都生成了自己的数据集,这使得跟踪进展变得困难,并提高了进入这一领域的门槛。
《CLRS基准》通过提供易于使用的数据集生成器和公开可用的代码来改善这些挑战。我们已经看到社区对此的极大热情,并希望在ICML期间进一步引导这种热情。
算法推理的未来…
我们在算法推理方面的研究的主要目标是在高维神经执行器内捕捉经典算法的计算。然后,我们可以直接将这些执行器部署到原始或嘈杂的数据表示上,从而在其设计用于执行的输入上“应用经典算法”。
令人兴奋的是,这种方法有可能实现数据高效的强化学习。强化学习中充满了强大的经典算法示例,但其中大多数在标准环境(如Atari)中无法应用,因为它们需要访问丰富的特权信息。我们的蓝图将通过在神经执行器内捕捉这些算法的计算,使这种类型的应用成为可能,然后可以直接部署在代理的内部表示上。我们甚至有一个在NeurIPS 2021上发表的工作原型。我迫不及待地想看看接下来会发生什么!
我期待着…
我期待着ICML人机协作与团队合作研讨会,这个话题与我的心意相近。从根本上说,我相信人工智能的最大应用将通过与领域专家的协同实现。这种方法也与我们最近在使用人工智能增强纯数学家的直觉方面的研究非常一致,该研究于去年年底发表在《自然》杂志封面上。
研讨会组织者邀请我参加一个小组讨论,探讨这些工作的更广泛影响。我将与一群令人着迷的共同小组成员一起发言,其中包括我在剑桥大学三一学院本科期间非常钦佩的Tim Gowers爵士。不用说,我对这个小组讨论非常兴奋!
展望未来…
对我来说,像ICML这样的重要会议代表着我们领域中多样性和包容性的思考和反思时刻。虽然混合和虚拟会议形式使得活动比以往任何时候都更具可访问性,但我们还有很多工作要做,以使人工智能成为一个多样、公平和包容的领域。与AI相关的干预将影响我们所有人,我们需要确保被较少代表的群体仍然是讨论的重要组成部分。
这正是我为什么在非洲机器智能硕士(AMMI)课程中教授几何深度学习的原因 – 这是我最近合著的原型书的主题。AMMI为非洲最优秀的新兴研究人员提供一流的机器学习教育,为该地区构建了一个健康的AI从业者生态系统。我很高兴最近遇到了几位已经加入DeepMind实习的AMMI学生。
我对在我出生地东欧地区的外展机会非常热衷,正是这个地区为我提供了学习人工智能概念所需的科学基础和好奇心。东欧机器学习(EEML)社区尤其令人印象深刻 – 通过其活动,该地区的有志学生和从业者与世界级研究人员联系起来,并获得宝贵的职业建议。今年,我作为EEML塞尔维亚机器学习研讨会的主要组织者之一,帮助将EEML引入了我家乡贝尔格莱德。我希望这只是一系列活动中的第一次,以加强当地的AI社区,并培养东欧地区未来的AI领袖。
查看开放职位:https://www.deepmind.com/careers/jobs?sort=alphabetical