AWS重申对负责任的生成式人工智能的承诺

AWS重申承诺负责任的生成式人工智能

作为人工智能和机器学习的先驱者，AWS致力于负责任地开发和部署生成式人工智能

作为我们这个时代最具变革性的创新之一，生成式人工智能持续引起世界的想象力，我们仍然致力于负责任地利用它。我们拥有一支专门负责负责任人工智能的专家团队，辅以我们的工程和开发组织，我们不断测试和评估我们的产品和服务，以定义、衡量和减轻与准确性、公平性、知识产权、适当使用、有害性和隐私有关的担忧。虽然我们今天没有所有的答案，但我们正在与其他人一起努力开发新的方法和解决方案来应对这些新兴挑战。我们相信我们既可以推动人工智能的创新，同时继续实施必要的保护措施来保护我们的客户和消费者。

在AWS，我们知道生成式人工智能技术及其使用方式将继续发展，带来新的挑战，需要额外的关注和应对措施。这就是为什么亚马逊积极参与致力于负责任开发下一代人工智能系统的组织和标准机构，包括NIST、ISO、负责任的AI研究所和AI伙伴关系。实际上，上周在白宫，亚马逊签署了自愿承诺，促进AI技术的安全、负责任和有效开发。我们热切期待与决策者、学者和公民社会分享知识，因为我们意识到生成式人工智能所带来的独特挑战将需要持续的合作。

这一承诺与我们开发自己的生成式人工智能服务的方法一致，包括在我们全面的开发过程的每个阶段都考虑到负责任人工智能的基本模型（FMs）。在设计、开发、部署和运营过程中，我们考虑了一系列因素，包括1/ 准确性，例如，摘要与基础文档的匹配程度；传记是否准确；2/ 公平性，例如，输出是否平等对待不同人群；3/ 知识产权和版权考虑；4/ 适当使用，例如，过滤用户要求的法律建议、医学诊断或非法活动；5/ 有害性，例如，仇恨言论，粗俗语言和侮辱；6/ 隐私，例如，保护个人信息和客户提示。我们将解决这些问题的解决方案纳入我们的获取训练数据的过程、FMs本身以及我们用于预处理用户提示和后处理输出的技术中。对于我们所有的FMs，我们积极投入改进我们的功能，并从客户那里学习他们尝试新用例的经验。

• 合成字幕对于多模态训练是否有用？这篇AI论文展示了合成字幕在提高多模态训练的字幕质量方面的有效性
• 这个Python库“Imitation”提供了PyTorch中模仿和奖励学习算法的开源实现
• 新的AI驱动的SQL专家可以在几秒钟内构建SQL查询

例如，亚马逊的Titan FMs被设计用于检测和删除客户提供的数据中的有害内容，拒绝不适当的用户输入内容，并过滤包含不适当内容（如仇恨言论、粗俗语言和暴力）的模型输出。

为了帮助开发者负责任地构建应用程序，Amazon CodeWhisperer提供了一个参考跟踪器，显示代码推荐的许可信息，并在必要时提供到相应开源代码库的链接。这使得开发者更容易决定是否在他们的项目中使用该代码，并根据需要进行相关的源代码归属。此外，Amazon CodeWhisperer还会过滤掉包含有害短语和表明偏见的代码推荐。

通过这些创新服务，我们将继续帮助我们的客户实现生成式人工智能的好处，同时在公共和私营部门之间进行合作，以确保我们以负责任的方式利用这项变革性的新技术。我们将共同建立客户和广大公众的信任，将这项具有变革性的新技术作为一种积极的力量。