宣布推出新工具，帮助每个企业拥抱生成式人工智能

全新工具发布：助力企业迎接生成式人工智能时代

从初创公司到企业，各种规模的组织都开始使用生成式人工智能。它们希望利用生成式人工智能，将Beta版、原型和演示转化为现实世界的生产力增益和创新。但是，组织需要什么才能将生成式人工智能引入企业并使其变得真实？当我们与客户交谈时，他们告诉我们他们需要安全性和隐私保护、规模和性价比，还有最重要的一点是与他们业务相关的技术。我们很高兴地宣布今天推出的新功能和服务，让大大小小的组织能够以创造性的方式使用生成式人工智能，构建新的应用程序并改进工作方式。在AWS，我们通过以下几种方式专注于帮助我们的客户：

• 使构建生成式人工智能应用程序变得简单，并内置了安全性和隐私保护
• 专注于生成式人工智能的性能最佳、成本最低的基础架构，以便您可以训练自己的模型并进行大规模推理
• 为企业提供生成式人工智能驱动的应用程序，改变工作方式
• 通过使数据成为您的差异化因素，定制基础模型（FMs），使其成为您业务、数据和公司的专家

为了帮助各种组织构建不同的生成式人工智能体验，AWS一直与我们的客户密切合作，其中包括BBVA、Thomson Reuters、联合航空、飞利浦和LexisNexis Legal & Professional等。通过今天推出的新功能，我们期待能提高生产力，改进客户参与度，并提供更个性化的体验，改变公司的工作方式。

宣布Amazon Bedrock的普遍可用性，这是构建生成式人工智能应用程序最简单的方式，其中内置了安全性和隐私保护

客户对生成式人工智能给企业带来的价值感到兴奋和乐观。他们深入研究这项技术，以了解他们需要采取的步骤来建立一个生成式人工智能系统以投入生产。尽管最近生成式人工智能方面的进展引起了广泛关注，但许多企业还没有能够参与这一变革。客户告诉我们，他们需要模型选择、安全性和隐私保证、以数据为先的方法、成本效益的模型运行方式以及像提示工程、检索增强生成（RAG）、代理等能力，以创建定制的应用程序。这就是为什么在2023年4月13日，我们宣布了Amazon Bedrock，这是一种使用基础模型构建和扩展生成式人工智能应用程序最简单的方式。Amazon Bedrock是一个全面管理的服务，提供了来自AI21 Labs、Anthropic、Cohere、Meta、Stability AI和Amazon等领先供应商的高性能基础模型选择，以及客户构建生成式人工智能应用程序所需的广泛功能集，简化了开发过程，同时保持了隐私和安全性。此外，作为最近宣布的战略合作的一部分，Anthropic的所有未来的FMs都将在Amazon Bedrock中提供，并提前访问用于模型定制和微调能力的独特功能。

• 使用FinBERT提高情感分数准确性，并拥抱SOLID原则
• 使用XGBoost和Python对DEHB进行机器学习模型优化的综合指南
• 使用Amazon SageMaker Canvas UI和AutoML API，将时间序列预测速度提升高达50%

自四月以来，我们已经亲眼见证了像Coda、Hurone AI和Nexxiot这样的初创公司；像adidas、GoDaddy、Clariant和Broadridge这样的大型企业；以及像Accenture、BCG、Leidos和Mission Cloud这样的合作伙伴已经在各行各业安全地使用Amazon Bedrock构建生成式人工智能应用程序。像Salesforce这样的独立软件供应商（ISV）现在正在安全地集成Amazon Bedrock，使其客户能够提供生成式人工智能应用程序的动力。客户将生成式人工智能应用于新的用例；例如，旅行媒体公司Lonely Planet与我们的生成式人工智能创新中心合作，推出了一个可扩展的AI平台，可以在几分钟内整理书籍内容，提供连贯、高度准确的旅行建议，将行程生成成本降低了近80%。自那以后，我们不断增加新的功能，例如Amazon Bedrock的代理以及对Cohere和Anthropic的最新模型的支持，为我们的客户提供更多选择，使创建基于生成式人工智能的应用程序更加简单。Bedrock的代理是一个重大突破，让LLM能够基于您自己的数据和API完成复杂任务，私密、安全，安装只需几分钟（无需培训或微调）。

今天，我们很高兴分享一些新的公告，使将生成式人工智能引入您的组织变得更加容易：

• Amazon Bedrock 的普遍可用性，帮助更多客户构建和扩展生成式人工智能应用程序
• 在Llama 2（即将在未来几周发布）和Amazon Titan Embeddings中拓展了模型选择，为客户提供更多选择和灵活性，以找到适合每种用例的正确模型，并为更好的结果提供RAG的功率
• Amazon Bedrock 是符合 HIPAA 的服务，并可在 GDPR 合规性条件下使用，使更多客户能够从生成式人工智能中受益
• 提供的吞吐量可确保在高峰流量时间内始终如一的用户体验

随着 Amazon Bedrock 的普遍可用性，更多客户将获得 庞大基础设施（Bedrock）的全面功能。客户可以轻松尝试各种顶尖 FM，使用微调和 RAG 等技术私下定制它们的数据，并创建执行复杂业务任务的托管代理，无需编写任何代码。从预订旅行和处理保险理赔到创建广告活动和管理库存，一切尽在掌握。由于 Amazon Bedrock 是无服务器的，客户无需管理任何基础设施，他们可以安全地集成和部署生成式人工智能能力到他们已经熟悉的 AWS 服务中。

其次，模型选择一直是使 Amazon Bedrock 成为我们客户独特、差异化的服务的基石。在生成式人工智能的采用过程中，没有一个单一的模型可以解锁生成式人工智能的全部价值，客户需要能够使用一系列高性能模型。我们很高兴地宣布 Amazon Titan Embeddings 的普遍可用性，并在未来几周提供 Llama 2，Meta 的下一代大型语言模型 (LLM)，与现有模型提供商 AI21 Labs、Anthropic、Cohere、Stability AI 和亚马逊公司一起扩大了客户的选择和灵活性。Amazon Bedrock 是第一个通过托管 API 提供 Llama 2、Meta 的下一代 LLM 的完全托管生成式人工智能服务。Llama 2 模型相对于原始 Llama 模型有显著改进，包括基于更多数据进行训练，并具有更长的上下文长度 (4,000 个标记)，可用于处理较大的文档。优化以在 AWS 基础设施上提供快速响应，通过 Amazon Bedrock 提供的 Llama 2 模型非常适合对话用例。客户现在可以构建由 Llama 2 13B 和 70B 参数模型驱动的生成式人工智能应用程序，无需设置和管理任何基础设施。

Amazon Titan FMs 是由 AWS 在大型数据集上创建和预训练的模型系列，它们是强大的、通用的功能，可支持各种用例。首个可一般提供给客户使用的模型 Amazon Titan Embeddings 是一种将文本转换为数值表示（称为嵌入）以支持 RAG 用例的 LLM。FM 非常适用于各种任务，但只能根据训练数据中的学习和提示中的上下文信息回答问题，这限制了它们在需要及时知识或专有数据的响应情况下的有效性。数据是一般生成式人工智能应用程序与真正了解您的业务和客户的应用程序之间的区别。为了在 FM 响应中使用附加数据，许多组织会转向 RAG，这是一种普遍的模型定制技术，其中 FM 连接到它可以引用以增强其响应的知识源。要开始使用 RAG，客户首先需要访问一个嵌入模型，将他们的数据转换为向量，以便 FM 更容易理解数据之间的语义含义和关系。构建一个嵌入模型需要大量的数据、资源和机器学习专业知识，这使得 RAG 对许多组织来说难以实现。Amazon Titan Embeddings 使客户更容易开始使用 RAG，利用其专有数据扩展任何 FM 的功能。Amazon Titan Embeddings 支持 25 多种语言和长达 8,192 个标记的上下文长度，非常适合根据客户的用例使用单词、短语或整个文档。该模型返回 1,536 维的输出向量，具有很高的准确性，同时还优化了低延迟和具成本效益的结果。有了新的模型和功能，您可以将您组织的数据作为战略资产，定制基础模型并构建出更多差异化的体验。

第三，由于客户对于定制化所需的数据非常有价值，他们需要确保数据的安全与隐私。亚马逊Bedrock从一开始就注重安全与隐私，可以让客户放心数据的保护。客户的数据不会用于训练原始基本FM模型。所有数据在存储和传输过程中都采用加密措施。而且你可以期待与任何其他亚马逊网络服务相同的AWS访问控制。今天，我们很高兴在这个基础上推出新的安全和治理功能 – 亚马逊Bedrock现在是一个符合HIPAA要求的服务，可以依照GDPR准则使用，使更多的客户从生成式AI中受益。新的治理功能包括与亚马逊CloudWatch的集成，以跟踪使用指标并构建定制化的仪表板，并与AWS CloudTrail集成，以监视API活动和解决问题。这些新的治理和安全功能有助于组织在高度管制的行业中释放生成式AI的潜力，并确保数据的安全。

最后，一年中的某些时间段，比如假期，对于客户来说非常关键，他们要确保由生成式AI驱动的应用程序能够提供持续的服务。在这些时间段，客户希望无论需求如何，他们的服务都能够为所有用户保持可用性。亚马逊Bedrock现在允许客户预留吞吐量（以每分钟处理的令牌数量来衡量），以在高峰流量时维持一致的用户体验。

总之，我们今天宣布的亚马逊Bedrock的新功能和模型将加快企业构建更个性化应用程序和提高员工效率的速度。结合我们对机器学习基础架构的持续投资，亚马逊Bedrock是客户构建和扩展生成式AI应用程序的最佳选择。

为了帮助客户快速开始使用这些新功能，我们将在我们的数字化、按需的培训课程集中增加一门新的亚马逊Bedrock生成式AI培训课程。《亚马逊Bedrock – 入门指南》是一门免费的、自主学习的数字课程，向学员介绍该服务。这门60分钟的课程将向开发人员和技术受众介绍亚马逊Bedrock的好处、特点、应用案例和技术概念。

宣布亚马逊CodeWhisperer定制能力，根据您的组织代码库生成更相关的代码建议

在AWS，我们正在构建强大的新应用程序，通过生成式AI改变我们的客户完成工作的方式。在2023年4月，我们宣布亚马逊CodeWhisperer正式推出，这是一个AI代码伴侣，通过根据开发人员集成开发环境（IDE）中的自然语言注释和代码提供代码建议，帮助开发人员更快地构建软件应用程序。CodeWhisperer经过对数十亿行公开可用的代码进行训练，以帮助开发人员在各种任务上提高生产力。我们特别对高质量的亚马逊代码进行了专门的训练，包括AWS API和最佳实践，以帮助开发人员更快、更准确地生成与亚马逊服务如Amazon Elastic Compute Cloud（Amazon EC2）、Amazon Simple Storage Service（Amazon S3）和AWS Lambda交互的代码。从Accenture到Persistent再到Bundesliga，众多客户都已开始使用CodeWhisperer来提高开发人员的生产力。

许多客户还希望CodeWhisperer能够包含他们自己的内部API、库、最佳实践和架构模式在其建议中，以进一步加快开发速度。如今，AI代码伴侣无法将这些API包含在其代码建议中，因为它们通常是根据公开可用的代码进行训练，因此不知道公司的内部代码。例如，为了为电子商务网站构建一个列出购物车中物品的功能，开发人员必须找到并理解现有的内部代码，例如提供物品描述的API，以便能够在购物车中显示描述。如果没有能够建议正确的内部代码的编码伴侣，开发人员需要花费数小时在内部代码库和文档中查找完成工作。即使开发人员能够找到正确的资源，他们还需要花更多的时间来审查代码，以确保其符合公司的最佳实践。

今天，我们非常高兴地宣布新的Amazon CodeWhisperer自定义功能，使CodeWhisperer能够生成比以前更好的建议，因为它现在可以包含您的内部API、库、最佳实践和架构模式。该功能使用最新的模型和上下文自定义技术，将很快作为新的CodeWhisperer企业版的一部分提供预览。通过该功能，您可以安全地将您的私有仓库连接到CodeWhisperer，并通过几次点击，定制CodeWhisperer以生成包括您的内部代码库的实时推荐。例如，通过CodeWhisperer的自定义，一家食品配送公司中的开发人员可以要求CodeWhisperer提供包含与公司内部服务相关的特定代码的建议，比如“处理周围司机当前位置的未分配食品配送列表”。以前，CodeWhisperer不会知道“未分配食品配送”或“司机当前位置”的正确内部API，因为这些信息并不公开。现在，在公司的内部代码库上进行定制后，CodeWhisperer可以理解意图，确定哪些内部和公共API最适合该任务，并为开发人员生成代码建议。CodeWhisperer的自定义功能可以节省开发人员搜索和修改文档稀缺的代码所花费的时间，并帮助新加入公司的开发人员更快地上手。

在以下示例中，创建私有自定义后，AnyCompany（一家食品配送公司）的开发人员将获得包含其内部API和库的CodeWhisperer代码建议。

我们最近与Persistent进行了一项研究，Persistent是一家为客户提供数字工程和企业现代化服务的全球服务和解决方案公司，旨在衡量CodeWhisperer自定义功能的生产力效益。Persistent发现使用自定义功能的开发人员的编码任务平均速度比使用标准CodeWhisperer的开发人员快28%。

我们设计这个自定义功能时，将隐私和安全置于首位。管理员可以通过AWS管理控制台轻松管理对私有自定义的访问权限，只允许特定的开发人员访问。管理员还可以确保只有符合其标准的仓库有资格用于CodeWhisperer的自定义。使用高质量的仓库有助于CodeWhisperer提供促进安全性和代码质量最佳实践的建议。每个自定义都完全隔离于其他客户，使用这个新能力构建的自定义不会用于训练CodeWhisperer的底层模型，从而保护客户的有价值的知识产权。

为了帮助企业分析师使用自然语言命令轻松创建和定制可视化效果，我们在Amazon QuickSight中推出了生成BI编写功能的预览

亚马逊一直致力于为组织的所有用户民主化访问洞察力。我们的云端统一商业智能（BI）服务Amazon QuickSight允许在组织的所有用户之间共享见解。自2020年以来，我们一直在使用生成模型为QuickSight提供动力，这些生成模型用于驱动QuickSight Q，使任何用户可以使用自然语言询问他们的数据，而无需编写SQL查询或学习使用BI工具。在2023年7月，我们宣布我们将通过新的LLM功能进一步推动QuickSight Q的早期创新，为QuickSight提供生成BI功能。BMW集团和Traeger Grills等现有的QuickSight客户期待使用生成BI编写体验来进一步提高分析师的生产力。

今天，我们很高兴地推出了预览版的LLM功能，为商业分析师提供了具备生成型BI仪表盘创作能力。这些新的生成型BI创作能力扩展了QuickSight Q的自然语言查询能力，不仅能够回答结构良好的问题（例如“加利福尼亚州销售前十的产品是什么？”），还能帮助分析师从问题片段（例如“前十的产品”）快速创建可自定义的可视化图表，通过提出后续问题来澄清查询的意图，完善可视化效果，并进行复杂计算。商业分析师只需描述期望的结果，QuickSight便能生成引人注目的可视化图表，并可通过单击将其轻松添加到仪表盘或报告中。QuickSight Q还提供相关问题，以帮助分析师澄清当多个数据字段与其查询匹配时的模糊情况。分析师在获得初始可视化图表后，可以添加复杂计算、更改图表类型，并使用自然语言提示完善可视化效果。QuickSight Q的新生成型BI创作能力使得商业分析师能够快速轻松地创建引人注目的可视化图表，并缩短传递数据驱动决策所需的见解的时间。

在Amazon QuickSight中使用生成型BI能力创建可视化图表

为每个企业提供生成型AI工具和能力

今天的公告将生成型AI开放给任何客户。AWS提供企业级安全和隐私保护，拥有主流FM的选择，以数据为先的方法，以及高性能、成本效益的基础设施，组织信任AWS为他们的创新提供支持，使用生成型AI解决方案涉及科技栈的各个层面。从Bridgewater Associates到Omnicom，再到Asurion和Rocket Mortgage，我们已经看到了令人兴奋的创新。随着这些新公告的推出，我们期待看到该技术的新用例和应用，以提高生产力。这只是一个开始，在技术栈的各个层面上，我们正在创新，提供为您的组织量身定制的新服务和能力，帮助您应对面临的一些最大的挑战，改变我们的工作方式。

资源

了解更多信息，请查看以下资源：

• 在AWS上探索生成型AI
• 了解亚马逊Bedrock，使用主流FM构建和扩展生成型AI应用程序的最简单方式
• 在亚马逊Bedrock上了解更多关于Llama2的信息
• 了解亚马逊Titan，亚马逊提供的高性能FM，实现负责任的创新
• 了解如何使用亚马逊CodeWhisperer的定制能力
• 了解QuickSight的生成型BI功能
• 在AWS Marketplace中发现AWS合作伙伴提供的生成型AI解决方案