唐尼·怀特,Satisfi Labs的首席执行官兼联合创始人-访谈系列

让人满意的实验室(Satisfi Labs)的首席执行官兼联合创始人唐尼·怀特-访谈系列

成立于2016年的Satisfi Labs是一家领先的对话式人工智能公司。早期的成功来自于其与纽约大都会队、梅西百货和美国网球公开赛的合作,为用户提供了在网站上常常无法获得的信息的便捷访问。

唐尼在进入创业界之前在彭博社工作了15年,并拥有康奈尔大学的MBA学位和Baruch学院的学士学位。在唐尼的领导下,Satisfi Labs在体育、娱乐和旅游行业取得了显著的增长,并获得了谷歌、MLB和红灯管理公司的投资。

在你在彭博社工作了14年后,你突然对创业产生了兴趣。为什么创业突然成为你的关注点?

在我大学三年级的时候,我申请了彭博社的前台接待员工作。一旦我进入了公司,我告诉我的同事们,如果他们愿意教我,我能够快速学习。到了我大四的时候,我已经成为了全职员工,并将所有的课程调到了晚上的时间,这样我就可以同时工作和上课。我21岁时,我没有参加大学毕业典礼,而是把那个时间用来管理我的第一个团队。从那时起,我有幸在一个以功绩为本的环境中工作,并得到了多次晋升。到了25岁时,我已经在管理自己的部门了。从那里,我进入了区域管理,然后是产品开发,最终进入了销售管理,负责整个美洲地区的销售工作。到了2013年,我开始想着能否做些更大的事情。我去了一些年轻的科技公司面试,其中一位创始人对我说:“我们不知道你是优秀还是彭博社优秀。”从那时起,我知道必须做出一些改变,六个月后,我成为了我第一家初创公司Datahug的销售副总裁。不久之后,我被一群投资者聘请,他们想要颠覆Yelp。虽然Yelp仍然很好,但在2016年,我们就新的愿景达成了一致,我与同一批投资者共同创办了Satisfi Labs。

你能分享一下Satisfi Labs的创始故事吗?

当时我和Satisfi的现任首席技术官兼联合创始人兰迪在Citi Field的棒球比赛上,听说了他们的专长之一是粘状培根。我们在走廊上四处问了工作人员,但找不到它。结果它藏在球场的一端,这让我们意识到通过聊天直接向团队询问会更方便。这就是我们第一个想法的起源。我和兰迪都来自金融和算法交易的背景,这使我们想到了将请求与答案进行匹配的概念,以构建我们自己的NLP系统,专门用于在特定位置提出的超细分询问。最初的想法是构建个体机器人,每个机器人都是某个特定领域知识的专家,尤其是那些在网站上很难获取的知识。从那里开始,我们的系统会有一个“指挥官”,需要时可以调用每个机器人。这个原始的系统架构至今仍在使用。

Satisfi Labs曾经设计了自己的NLP引擎,并即将发布一份新闻稿,但OpenAI通过发布ChatGPT破坏了你们的技术堆栈。您能讨论一下这个时期以及这样迫使Satisfi Labs转变业务的情况吗?

我们计划在2022年12月6日发布我们的申请专利的基于上下文的NLP升级。2022年11月30日,OpenAI宣布了ChatGPT。ChatGPT的发布不仅改变了我们的路线图,也改变了整个世界。最初,和其他人一样,我们都在争相了解ChatGPT的力量和限制,以及它对我们的意义。我们很快意识到,我们的上下文NLP系统并不与ChatGPT相竞争,而实际上可以增强LLM体验。这导致我们迅速决定成为OpenAI的企业合作伙伴。由于我们的系统从理解和回答问题的细节级别开始,我们能够结合“机器人指挥官”系统设计和七年的意图数据,升级系统以融合LLMs。

Satisfi Labs最近推出了一项名为Context LLM Response System的专利,这是什么具体含义?

今年7月,我们发布了我们的申请专利的Context LLM Response System。这个新系统将我们申请专利的上下文回应系统的能力与大型语言模型的功能相结合,以增强整个Answer Engine系统。新的Context LLM技术将大型语言模型的能力整合到平台中,从改善意图路由到回答生成和意图索引,同时驱动其独特的报告能力。此平台通过利用GPT-4等LLMs超越传统聊天机器人。我们的平台可根据响应控制的需要使用生成式AI答案或预先撰写的答案进行回答。

您能讨论一下大多数公司网站与LLM平台之间在提供品牌一致回答方面的脱节吗?

ChatGPT经过广泛培训,理解各种信息,因此缺乏特定行业问题所需的具体培训水平,无法提供大多数品牌所期望的特定性回答。此外,LLMs提供的答案的准确性也取决于提供的数据。当您使用ChatGPT时,它会从互联网上获取数据,其中数据可能不准确。 ChatGPT不会将品牌数据置于其他数据之上。在过去的七年中,我们一直在为各行业提供服务,并从客户每天问的数百万个问题中获得了宝贵的见解。这使我们能够了解如何根据行业的更多背景调整系统,并提供重要的详细意图报告功能,这在大型语言模型兴起的情况下至关重要。尽管LLMs在理解意图和生成回答方面很有效,但无法报告所问问题。通过多年的广泛意图数据,我们通过其意图索引系统高效地创建了标准化报告。

语言学家在提升LLM技术能力方面起到什么作用?

随着这种新技术的出现,出现了提示工程师的角色,需要一个人设计和优化提示以从AI中引出特定回答。语言学家对语言结构(如句法和语义等)有很好的理解。我们最成功的AI工程师之一具有语言学背景,这使她在找到提示AI的新颖和微妙的方式方面非常有效。提示中的微小变化对生成准确和高效回答的影响巨大,而这对于我们处理多个客户的数百万个问题时至关重要。

后端的微调是什么样的过程?

我们拥有自己的专有数据模型,用于控制LLM。这使我们能够建立我们自己的篱笆来控制LLM,而不是去寻找篱笆。其次,我们可以利用其他平台使用的工具和功能,这使我们能够在我们的平台上为其提供支持。

通过微调训练数据并在我们的平台上使用强化学习(RL),可以帮助减少错误信息的风险。相比于查询知识库以添加特定事实,微调会创建一个新版本的LLM,该版本是基于这些额外知识进行训练的。另一方面,RL使用人类反馈来训练一个代理,并学习如何回答问题的策略。这在构建专精于特定任务的较小模型方面已被证明是成功的。

您能讨论一下客户入职和整合会话AI解决方案的过程吗?

由于我们专注于目的地和体验,如体育,娱乐和旅游,新客户可以从已经在社区中的客户中获得益处,这使入职非常简单。新客户确定他们的最新数据来源(如网站,员工手册,博客等)。我们会即时摄取数据并对系统进行训练。由于我们与同一行业的数百个客户合作,我们的团队可以迅速提供关于哪些答案最适合预先编写的回复和生成的回答的建议。此外,我们设置引导流程,例如我们动态的食品和饮料查找器,因此客户无需使用机器人构建工具。

Satisfi Labs目前与体育团队和公司密切合作,您对公司未来的愿景是什么?

我们预见到未来更多品牌将希望控制其聊天体验的更多方面。这将导致我们的系统需要提供更多开发人员级别的访问。品牌雇佣开发人员构建自己的对话AI系统是没有道理的,因为所需的专业知识将很稀缺和昂贵。然而,有了我们的系统作为后台支持,他们的开发人员可以更加关注客户体验和旅程,通过更好地控制提示,与专有数据连接以实现更个性化,并管理特定用户需求的聊天界面。Satisfi Labs将成为品牌对话体验的技术支撑。

感谢您的精彩访谈,希望了解更多的读者可以访问Satisfi Labs