将API策略调整为动态人工智能趋势’ (Jiāng API cèlüè tiáozhěng wéi dòngtài réngōng zhìnéng qūshì)

深入研究动态人工智能趋势融入API策略 (Shēnrù yánjiū dòngtài réngōng zhìnéng qūshì róngrù API cèlüè)

在今天快速发展的技术环境中,人工智能(AI)正受到极大的关注。在社交媒体上无处不在的是新的AI初创公司、快速工程工具和大型语言模型(LLM)解决方案。这并不令人感到惊讶,因为人工智能几乎像魔法一样神奇!例如,ChatGPT真的让所有人都兴奋不已。在其公开发布后的两个月内,它就吸引了1亿用户,变得非常受欢迎。

现在,每个人都在想:这股人工智能浪潮对我、我的工作和我的产品意味着什么?更具体地说,对于那些在使用API构建数字产品和应用程序的前沿人员,它如何影响他们?本文探讨了AI趋势对于我们这些使用API构建数字工具的人意味着什么。

API使AI对所有人都可访问

大公司迅速建立了专门的AI研究实验室,招募数据科学家来制作AI模型。但那些没有大规模计算资源和GPU来建立AI研究实验室的小实体如何应对呢?他们只能观望大公司在AI革命中获利吗?答案是否定的。对于许多AI应用,尤其是那些以自然语言为中心的应用,不需要特殊的AI研究实验室。相反,可以利用现有的公共AI模型和LLMs。这意味着开发人员不需要成为AI专家,他们只需要熟练掌握API。通过提示工程、微调和嵌入,可以定制这些模型以满足特定需求。

这里的关键词是”APIs”。APIs封装了其内容的复杂性,使得AI模型对所有开发者都可访问,无论他们在AI方面的专业知识如何。这种关注点的分离确保了虽然只有少数数据科学家创建了AI模型并将其封装为APIs,但更多的开发者可以将这些模型集成到他们的应用程序中,构建能够熟练处理自然语言的”智能”解决方案。结果是APIs平衡了竞争环境,为各个公司规模的开发者提供了强大的AI模型访问权限。

现代应用中的AI和API模式

APIs是连接您的产品与其他一切的关键。它们非常适合连接不同的软件组件。当我们谈论到人工智能时,这种连接变得更加重要,因为人工智能需要与不同的数据源和工具合作才能发挥作用。现代应用程序一直在同时利用人工智能和API。虽然人工智能为应用程序赋予了”智能”,使其能够理解人类语言和意图,但API也促进了数据访问和系统连接。这些技术不仅仅是并行的实体,它们的结合使用可以产生协同效应。它们的集成一般有三种主要模式:

模式1:通过API调用AI服务

AI模型,如OpenAI ChatGPT,通常被打包为API。通过这些API,开发者可以触发AI,将提示作为输入发送,使开发者能够无缝地将AI集成到他们的应用程序中。构建新的AI应用程序的常用架构还利用了两个OpenAI API端点,如Vector EmbeddingsChat Completion,您可以在下面的图表中看到:

此方法首先通过OpenAI API为每个输入文档(文本、图像、CSV、PDF或其他类型的结构化/非结构化数据)创建vector embeddings,然后将生成的embeddings索引以供快速检索,并将其保存到像向量数据库这样的存储器中用于快速检索,然后与用户的问题一起呈现给ChatGPT。借助这些添加的自定义知识,ChatGPT可以智能地回答用户查询。

模式2:AI服务调用APIs

AI模型对提示的响应输出通常为文本。为了将这些”思想”转化为可操作的结果,AI服务需要调用APIs。这些APIs可以在现实世界或数字世界中启动动作,如进行付款、预约、发送消息或调整房间温度等。本质上,APIs充当了AI服务的”手”,使其能够与环境进行交互。其中一个很好的例子是ChatGPT自定义插件。这篇文章解释了如何使用APISIX在API Gateway中构建自定义插件。因为APISIX可以位于API的前端,将AI请求路由到预期的后端API服务。我们可以实施安全措施,如身份验证、授权、速率限制或缓存类似的API响应,并且它允许我们收集有关API使用、性能和潜在问题的有价值的见解。

模式3:AI连接API

多年前,要使两个软件系统或API进行通信,唯一的选择是手动编码。软件工程师会编写复杂而脆弱的代码序列。这个任务仅由开发人员完成,每个修改都意味着更多的编码,导致纷繁复杂的相互连接的代码。

随着生成式人工智能的出现,与作为服务的集成平台(iPaaS)进行交互可能就像在聊天中发出请求一样简单。如果您希望从一个平台同步数据到另一个平台,您不需要理解其中的技术细节,只需要明确您的要求。例如,您可以说:“将Marketo中的客户领导得分与Salesforce同步。”或者请求AI将数据从一个API移动到另一个API。然后,AI将处理这个过程,测试其兼容性,并自动修复任何问题。用于您的集成的API始终在变化,这有时会引起一些问题。AI可以监视您的数据集成的健康状况,并持续修复错误,或者如果需要对API请求或响应中的条目进行注意,可以以自然语言发送警报通知。

保护API的使用

由于AI具备调用可以在现实世界或数字世界中触发操作的API的能力,因此在实施保障措施至关重要。这种保障最好在API管理系统层面实施,以确保对AI的负责和安全使用。本文探讨了API网关如何对ChatGPT插件开发人员“公开、保护、管理和监控”其API端点方面具有益处。

总之

API为以AI驱动的软件开发提供了完美的构建块。API和AI技术的结合对于开发强大的应用程序至关重要。通过API集成AI功能的应用程序、以及通过API触发操作的AI服务,这三个被确认的模式为在应用程序开发中利用AI提供了一条路线。随着AI领域的不断发展,对API的关注以及其整合策略将变得更加重要。