Accenture在AWS上使用生成AI服务创建了一种知识辅助解决方案
Accenture通过AWS平台开发的AI生成服务，打造出了一种智能助手解决方案
这篇文章由安可德（Accenture）的Ilan Geller和Shuyu Yang共同撰写。
企业在内部和外部业务运营中使用信息和知识库时面临着重大挑战。随着操作、流程、政策和合规要求的不断演变，员工和客户要跟进更新变得非常困难。与此同时，大部分内容的非结构化特征使得使用传统搜索工具查找答案变得耗时。
在内部，员工常常要花费大量时间寻找完成工作所需的信息，导致他们感到沮丧并降低了工作效率。当他们找不到答案时，他们必须升级问题或在没有完整上下文的情况下做决策，这可能会带来风险。
在外部，客户也可能会发现寻找他们所需信息的过程令人沮丧。尽管随着时间的推移，企业知识库已经改善了客户体验，但它们仍然笨重且难以使用。无论是寻找与产品相关的问题的答案，还是需要有关营业时间和位置的信息，糟糕的体验都会导致客户感到沮丧，甚至更糟的情况是客户流失。
无论哪种情况，随着知识管理变得更加复杂，生成性人工智能为企业将人们与完成工作和创新所需的信息连接起来提供了改变游戏规则的机会。通过正确的策略，这些智能解决方案可以改变组织中知识的获取、组织和使用方式。
为了应对这个挑战，安可德和亚马逊 Web 服务（AWS）合作开发了一种创新的生成性人工智能解决方案，名为Knowledge Assist。通过使用 AWS 的生成性人工智能服务，团队开发了一个可以摄入和理解大量非结构化企业内容的系统。
用户现在可以直接提问并以简单的对话界面提取准确的答案，而不再局限于传统的关键词搜索。生成性人工智能可以理解知识库中的上下文和关联关系，以提供个性化和准确的回答。随着系统处理更多查询，通过机器学习算法，它会不断改善语言处理能力。
自从推出这种人工智能辅助框架以来，企业已经看到员工知识保留和工作效率大幅提升。通过提供快速和准确的信息访问，并帮助员工自助服务，它减少了新员工培训时间超过50%，并将升级问题减少了近40%。
借助生成性人工智能的力量，企业可以改变知识的获取、组织和共享方式。通过释放现有的知识库，公司可以提高员工的工作效率和客户满意度。正如安可德与 AWS 的合作所展示的那样，企业知识管理的未来在于由人机交互演化的 AI 驱动系统。
安可德正在与 AWS 合作帮助客户部署Amazon Bedrock，利用最先进的基础模型，如Amazon Titan，以及部署行业领先技术，如Amazon SageMaker JumpStart和Amazon Inferentia，同时使用其他 AWS 机器学习服务。
本文概述了由安可德为一个生产用例使用 Amazon Bedrock 和其他 AWS 服务开发的端到端生成性人工智能解决方案。
解决方案概述
一家大型公共卫生部门的客户每天为数百万市民提供服务，他们要求在不断变化的健康环境中轻松获得最新信息。安可德将这种生成性人工智能功能集成到现有的常见问题解答机器人中，使得聊天机器人能够回答更广泛的用户问题。增加市民以自助方式获取相关信息的能力，节省了部门的时间和资金，减少了呼叫中心代理交互的需求。该解决方案的主要特点包括：
- 混合意图方法 – 使用生成性和预训练的意图
- 多语言支持 – 用英语和西班牙语进行对话
- 对话分析 – 报告用户需求、情感和关注点
- 自然对话 – 具备与人类类似的自然语言处理（NLP）的上下文保持
- 透明引用 – 将用户引导至来源信息
Accenture的生成AI解决方案相比于现有或传统的聊天机器人框架具有以下优势：
- 快速生成准确、相关和自然的响应。
- 记住上下文，并回答后续问题。
- 处理并生成多种语言(如英语和西班牙语)的查询和响应。
- 根据用户反馈不断学习和改进响应。
- 轻松集成到现有的网络平台中。
- 摄取丰富的企业知识库。
- 以类人方式做出回应。
- 具有持续且几乎不需要努力的知识演进。
- 采用按需付费模式，无需预付费用。
此解决方案的高级工作流程包括以下步骤：
- 用户与现有的网页平台创建简单的集成。
- 数据在第0天进行批量上传，然后在第1天+进行增量上传。
- 实时处理用户查询，根据需要进行系统扩展以满足用户需求。
- 对话保存在应用数据库(Amazon Dynamo DB)中，以支持多轮对话。
- 通过Amazon Bedrock调用Anthropic Claude基础模型，基于最相关的内容生成查询响应。
- 通过Anthropic Claude基础模型将查询以及来自英语到其他目标语言的响应进行翻译，以支持多语言对话。
- 通过Amazon Bedrock调用Amazon Titan基础模型以生成矢量嵌入。
- 通过使用Pinecone向量数据库嵌入，通过原始内容嵌入和用户查询嵌入的相似度来确定内容相关性。
- 将上下文以及用户的问题附加在一起创建提示语，并将其作为输入提供给Anthropic Claude模型。通过网络平台将生成的响应提供给用户。
以下图表说明了解决方案架构。
该架构流程可以分为两部分理解：
- 离线数据加载到Amazon Kendra
- 最终用户在线流程
在以下部分中，我们将详细讨论解决方案及其开发的不同方面。
模型选择
模型选择的过程包括对Amazon Bedrock提供的各种模型进行回归测试，包括AI21 Labs、Cohere、Anthropic和Amazon基础模型。我们检查了支持的用例、模型属性、最大标记数、成本、准确性、性能和语言方面。基于此，我们选择了Claude-2作为最适合此用例的模型。
数据源
我们创建了一个Amazon Kendra索引，并使用网络爬虫连接器添加了一个数据源，具有根网址和两个级别的目录深度。将多个网页纳入Amazon Kendra索引，并用作数据源。
GenAI聊天机器人请求和响应过程
此过程的步骤包括与Amazon Lex的请求和来自大型语言模型(LLM)的响应的端到端交互：
- 用户通过Amazon Route 53和Amazon CloudFront将请求提交给托管在AWS Lambda函数中的对话前端应用。
- Amazon Lex理解意图并将请求引导到托管在AWS Lambda函数中的协调器。
- 协调器Lambda函数执行以下步骤：
- 函数与应用程序数据库交互，该数据库托管在DynamoDB托管数据库中。数据库存储对话历史的会话ID和用户ID。
- 另一个请求发送到Amazon Kendra索引，以获取前五个相关搜索结果以构建相关的上下文。使用此上下文，构建所需的LLM模型所需的修改后提示。
- 建立Amazon Bedrock和协调器之间的连接。将请求发送到Amazon Bedrock Claude-2模型，以获取选定的LLM模型的响应。
- 从LLM响应中进行后处理，并将响应发送给用户。
在线报告
在线报告流程包括以下步骤：
- 终端用户通过CloudFront CDN前端层与聊天机器人进行交互。
- 每个请求/响应交互都由AWS SDK完成，并将网络流量发送到Amazon Lex（机器人的自然语言处理组件）。
- 有关请求/响应配对的元数据被记录到Amazon CloudWatch中。
- CloudWatch日志组配置了订阅过滤器，将日志发送到Amazon OpenSearch Service中。
- 一旦在OpenSearch Service中可用，日志可以使用Kibana生成报告和仪表板。
结论
在本文中，我们展示了Accenture如何使用AWS的生成式AI服务来实施端到端的数字化转型。我们确定了传统问答平台中存在的差距，并在其框架中增强了生成式智能，以实现更快的响应时间，并在全球范围内与用户进行持续改进。与Accenture卓越中心的团队联系，深入了解解决方案，并为客户部署此解决方案。
这个Knowledge Assist平台可以应用于不同的行业，包括但不限于健康科学、金融服务、制造业等。该平台使用受保护的知识提供类似人类的自然回答，使用户能够提高效率、生产力和更准确的行动。
这项联合努力建立在两家公司15年战略合作关系的基础上，使用了由Accenture AWS 商业团队（AABG）构建的相同的经过验证的机制和加速器。
联系AABG团队，发送邮件至[email protected]，以实现在AWS上转变为智能数据企业的业务成果。
了解有关在AWS上使用Amazon Bedrock或Amazon SageMaker进行生成式AI的更多信息，我们推荐以下资源：
您还可以注册AWS生成式AI通讯，其中包括教育资源、博客和服务更新。
