构建负责任的先驱文化
'Building a responsible pioneer culture'
如何确保我们能从当今最具影响力的技术中使社会受益
作为全球领先的人工智能实验室的首席运营官，我花了很多时间思考我们的技术对人们生活的影响，以及如何确保我们的努力有积极的成果。这是我的工作重点，也是我与世界领导人和行业重要人物会面时传达的关键信息。例如，我在瑞士达沃斯世界经济论坛上主持的“通过技术实现公平”主题的小组讨论就是在这方面处于前沿。
受到达沃斯关于构建更加绿色、更加公平、更好的世界的重要讨论的启发，我想分享一些关于我自己作为科技领导者的思考，以及我们DeepMind如何应对构建真正造福全球社区的技术挑战的见解。
2000年，我从在英特尔的工作中休假，去了黎巴嫩的孤儿院，这是我父亲长大的地方。两个月时间里，我努力在孤儿院建立了第一个计算机实验室，并训练学生和教师使用计算机。这次旅行起初是为了纪念我父亲。但是在一个技术基础设施非常有限的地方，我也对自己的工作有了新的视角。我意识到，如果没有技术界的真正努力，我在英特尔开发的许多产品将无法被数百万人使用。我深刻意识到，这种获取差距加剧了不平等现象；尽管电脑在世界的某些地方解决了问题并加速了进步，但其他地方的人们却被抛在了更远的后面。
在第一次去黎巴嫩之后，我开始重新评估自己的职业优先事项。我一直想成为构建开创性技术的一部分。但是当我回到美国后，我的关注点逐渐转向帮助构建能够对社会产生积极和持久影响的技术。这使我在教育和技术交叉领域担任了各种角色，包括共同创立了Team4Tech，这是一个致力于改善发展中国家学生获取技术的非营利组织。
2018年我加入DeepMind担任首席运营官的时候，我之所以这样做，很大程度上是因为我能感觉到创始人和团队对积极社会影响的关注。事实上，在DeepMind，我们现在提倡一个能够完美体现我个人价值观和希望将技术融入人们日常生活中的术语：负责任的开拓。
我认为，无论在哪个科技领域工作，负责任的开拓都应该是优先考虑的事项。但是我也认识到，当涉及到人工智能等强大而广泛应用的技术时，这一点尤为重要。人工智能可以说是当今最具影响力的技术。它有潜力在无数方面造福人类，从应对气候变化到预防和治疗疾病。但是我们必须考虑到它的积极和消极后果。例如，我们需要小心和周到地设计人工智能系统，以避免放大人类偏见，例如在招聘和执法等领域。
好消息是，如果我们不断质疑自己对人工智能构建和使用的假设，我们就能够以真正让每个人受益的方式构建这项技术。这需要邀请讨论和辩论，不断学习和改进，建立社会和技术保障措施，寻求多元化的观点。在DeepMind，我们所做的一切都源于我们公司的使命，即解决智能问题以推动社会进步和造福人类，而负责任的开拓文化对实现这一使命至关重要。
负责任的开拓在实践中是什么样的呢？我认为，首先要在组织内部为责任创造一个开放、坦诚的对话空间。在DeepMind，我们已经在我们的多学科领导团队中做到了这一点，该团队就我们的研究潜在风险和社会影响提供建议。
在我加入公司时，发展我们的道德治理并正式成立这个团队是我的第一个举措之一。在某种程度上，这是一个不太常规的举动，因为我们甚至没有给它起个名字，也没有明确的目标，直到我们开了几次会议。我希望我们能够关注责任的运营和实际方面，从一个没有期望的空间开始，每个人都可以坦率地谈论对他们而言负责任的开拓意味着什么。这些对话对于确立共同愿景和相互信任至关重要，这让我们能够进行更加开放的讨论。
负责任的开拓的另一个方面是接受改进的哲学和方法。我在上世纪90年代被介绍到“改善”的概念，当时我搬到东京为英特尔从事DVD技术标准的工作。这是一个日语词，意思是“持续改进”——简单来说，改善过程是指通过不断的小规模渐进改进，持续一段时间，从而实现更高效和理想的系统。但是真正重要的是这个过程背后的思维方式。为了使改善工作，每个接触到系统的人都必须时刻关注其弱点和改进机会。这意味着每个人都必须既有谦卑的态度承认某些事情可能出了问题，又有乐观的信念相信可以改变它变得更好。
在我担任在线学习公司Coursera的首席运营官期间，我们采用了持续改进的方法来优化我们的课程结构。当我在2013年加入Coursera时，该平台上的课程有严格的截止日期，每门课程每年只开设几次。我们很快发现这样做不够灵活，因此我们转向完全按需、自学节奏的格式。报名人数增加了，但完成率下降了—事实证明，太多的结构会造成压力和不便，而太少则会导致人们失去动力。因此，我们再次转变，采用每月开设多次课程会话的格式，学习者根据建议的每周里程碑来学习。虽然需要时间和努力才能达到目标，但持续不断的改进最终导致了一个让人们充分受益于学习经验的解决方案。
在上述示例中，我们的持续改进方法在很大程度上取得了成功，因为我们向我们的学习者社区征求了反馈意见，并听取了他们的关切。这是负责任地开拓创新的另一个关键部分：承认我们没有所有的答案，并建立与外部输入持续互动的关系。
对于DeepMind来说，这有时意味着咨询安全、隐私、生物伦理学和心理学等领域的专家。它还可以意味着与直接受到我们技术影响的多样化社群进行交流，并邀请他们参与关于他们想要和需要什么的讨论。有时候，这意味着只是倾听我们生活中的人们——无论他们的技术或科学背景如何——当他们谈论他们对人工智能未来的希望时。
从根本上讲，负责任地开拓创新意味着优先考虑以伦理和社会影响为重点的倡议。DeepMind在研究工作中越来越关注的一个领域是如何使人工智能系统更具公平性和包容性。在过去的两年中，我们已经发表了关于去殖民化人工智能、人工智能的同性恋公平性、减轻人工智能语言模型的伦理和社会风险等方面的研究成果。同时，我们也通过我们专门的奖学金计划努力增加人工智能领域的多样性。在内部，我们最近开始举办“负责任人工智能社区会议”，汇集各个团队和努力在安全、伦理和治理方面进行合作，数百人已经报名参与其中。
我对我们员工对这项工作的热情感到鼓舞，并为我所有的DeepMind同事坚持社会影响至上而深感自豪。通过确保技术造福最需要它的人，我相信我们可以在面对当今社会面临的挑战中取得实质性进展。从这个意义上讲，负责任地开拓创新是一种道义使命——从个人角度来看，我认为没有比这更好的前进方式了。
