微软推出鲸鱼2号,打造首款慎重推理LKM
微软推出鲸鱼2号——首款慎重推理LKM巅峰之作
一个推理的突破
正如我们上周讨论的,小型语言模型(SLM)现在非常流行。
此外,微软推出了他们的SLM明星产品Orca2的新版本,创建了一种新类型的语言模型谨慎推理者。
他们通过在高度复杂的推理任务中击败最多比自己大10倍的模型,在人工智能行业树立了新的门槛。
此外,他们对他们的人工智能战略提供了清晰的视角,并为Transformer学习的复杂世界提供了宝贵的见解。
今天,我们将深入探讨他们如何创建这种新范式。
在VoAGI中分享的大部分见解都是我在我的每周通讯TheTechOasis中分享过的。
如果您想了解人工智能这个快节奏世界的最新动态,并感受到启发,以采取行动,或者至少为未来做好充分准备,这适合您。
🏝请在下方订阅🏝,成为同行中的人工智能领导者,并接收其他平台都没有的内容,包括VoAGI:
订阅 | TheTechOasis
领先AI曲线的通讯
thetechoasis.beehiiv.com
模仿游戏
当微软推出Orca的第一个版本时,这是第一个真正达到ChatGPT-3.5水平的开源模型,人工智能行业终于开始关注较小的模型。
今天,原始的Orca模型不仅被看作是一项重要的创新,而且它也是微软战略的核心,因为有传言称,在业内备受瞩目的Microsoft’s Copilots背后运行的LLM并非是ChatGPT,而是Orca,这是由于运行1000亿参数模型的巨大成本。
微软的前提很简单,如果我们可以获得相当于较大模型能力的90%而只需10%的成本,我们会选择这条路线。