隐喻 API:为 LLM 构建的革命性搜索引擎

Metaphor API Revolutionary search engine built for LLM

互联网曾经是一个乌托邦,每个人都可以获取关于任何话题的最新信息。然而,为争夺用户的注意力,网站已经变得扭曲。Metaphor团队认为,这在谷歌搜索的衰落中最为明显。在谷歌搜索结果中排名更高以利用相应的流量非常重要,以至于它已经形成了自己的行业:搜索引擎优化。结果,网站竞争激烈,不是为了拥有最好的内容,而是为了在谷歌的搜索结果中排名更高,即使对于相对简单的查询,如“茄子通心粉食谱”。

Metaphor团队致力于通过利用巨大的语言模型的能力来恢复搜索的魅力;像GPT3这样的技术进步给了他们希望。他们获得了初创公司的投资,购买了一个GPU集群,并开始改进搜索。他们的目标是(并且继续努力)在进行互联网搜索时让人感觉像是被带领着穿越人类知识的总和。

该团队推出了Metaphor API,这是一个用于将LLM与网络集成的统一接口。只需要几行代码:

  • 尝试关键字或比喻搜索
  • 即时返回解析后的HTML。无需抓取网页。

在进行比喻搜索时,会使用基于Transformer的模型预测与查询最相关的链接。主要区别在于Metaphor返回的结果更加个性化,更符合用户具体的查询需求。如果在谷歌中输入“AI播客”,会得到一堆类似“11个最佳AI播客”的链接,但在Metaphor中,会得到实际的播客,这些播客已经通过质量和相关性进行了神经排序。

该团队的神经网络已经经过训练,可以识别这样的文本并预测下一个连接。结果是一种模仿分享所找到的链接的新方法,用于找到在线所需内容。虽然可能一开始不太明确,但以这种方式进行的搜索可以产生相关且有用的结果。以下是一些搜索选项:

  • 通过搜索来描述或感受。
  • 只搜索所需类型的实体。
  • 发现谷歌没有明显显示的材料,因为关键字不是最佳方法,或者因为搜索引擎对其排名不太关心。
  • 寻找与搜索中的链接类似的更多链接。

主要特点

  • Metaphor采用基于Transformer的架构来进行链接预测。这使得搜索可以以普通语言的完整表达能力进行。
  • 它可以即时返回任何网页的丰富解析的HTML,因此网页抓取永远不是一个问题。
  • 可以根据时间范围和域名等条件来细化搜索。
  • 使用起来简单,并提供Python和Node的SDK。查看实施指南
  • 以了解如何让GPT处理一切。
  • 索引中的任何页面都可以即时返回其内容。
  • 返回更多的结果,LLM可以对它们进行排序。
  • 其价格比必应API低得多。
  • 使用Metaphor进行的前一千次查询每个月永久免费。