麻省理工学院教授向国会表示：“我们在人工智能方面处于一个关键转折点”
Aleksander Mądry敦促立法者就企业如何使用人工智能工具提出严格的问题
麻省理工学院(Cadence Design Systems的计算机教授兼麻省理工学院可部署机器学习中心主任)Aleksander Mądry在周三向国会小组表示，政府不应该“放弃”其责任，将人工智能的未来道路仅留给大型科技公司。Mądry表示，政府应该询问企业所使用的算法的目的和可解释性，作为监管的前提，这被他描述为确保人工智能与社会目标一致的“重要工具”。如果政府不开始提出问题，那么“我非常担心”人工智能的未来，Mądry在回答杰拉尔德·康诺利议员的问题时说。
Mądry是解释性和人工智能领域的领先专家，他在“人工智能的进展：我们准备好迎接技术革命吗？”的听证会上作证，该会议是由信息技术、网络安全和政府创新小组委员会主持的，该小组是政府改革和监督委员会的一个小组。听证会的其他证人是前谷歌首席执行官埃里克·施密特、IBM副总裁斯科特·克劳德和AI和数字政策中心高级研究主任Merve Hickok。
在其开场白中，小组委员会主席Nancy Mace引用了由施密特、亨利·基辛格和麻省理工学院施瓦茨曼计算机学院院长丹·哈滕洛克共同撰写的书籍《AI时代：人类的未来》，她还提到了三位作者于3月3日在《华尔街日报》发表的一篇专栏文章，该文章总结了这本书并讨论了ChatGPT。Mace表示，她的正式开场白完全是由ChatGPT编写的。
在他准备的发言中，Mądry提出了三个总体观点。首先，他指出人工智能“不再是科幻小说”的问题，也不再局限于研究实验室。它已经在世界上广泛应用，可以带来巨大的好处，但也存在风险。
其次，他说人工智能让我们面临“违反我们直觉”的交互。他说，由于ChatGPT等人工智能工具模仿人类通信，人们太容易不加质疑地相信这些大型语言模型所产生的结果。在最糟糕的情况下，Mądry警告说，人类的分析能力将会萎缩。他还说，将人工智能视为人类并对其进行监管是错误的——例如，通过要求人工智能解释其推理并假设得出的答案可信。
最后，他说，人工智能“供应链”的本质问题受到的关注太少了，即人工智能系统是如何构建的。在基础层是像ChatGPT这样的通用系统，只有少数几家公司可以开发，因为它们的成本和复杂性非常高。在这种系统之上，是许多旨在处理特定任务的人工智能系统，例如确定一家公司应该雇用谁。
Mądry表示，这种分层引发了几个“政策相关”的问题。首先，整个人工智能系统都受制于底层大型系统中存在的任何漏洞或偏见，并且依赖于少数几家大公司的工作。其次，人工智能系统的互动从技术角度来看并不为人所知，这使得人工智能的结果更加难以预测或解释，并使得工具难以“审计”。最后，人工智能工具的混合使得很难知道在出现问题时应该由谁负责——谁应该承担法律责任，谁应该解决相关问题。
在提交给小组委员会的书面材料中，Mądry得出结论：“人工智能技术并不特别适合通过复杂的供应链进行部署”，尽管这正是它被部署的方式。
Mądry在结束他的证言时呼吁国会探讨人工智能问题并做好准备采取行动。“我们正在一个拐点上，决定未来人工智能将会带来什么。抓住这个机会意味着讨论人工智能的作用，我们究竟希望它为我们做什么，以及如何确保它使我们所有人受益。这将是一个艰难的对话，但我们确实需要现在进行，”他告诉小组委员会。
听证会所有证人的证言和持续约两个小时的视频都可以在网上获得。
