Hugging Face与微软合作,在Azure上推出Hugging Face模型目录
Hugging Face与微软合作,在Azure上推出模型目录
今天,我们非常高兴地宣布,Hugging Face与微软的合作进一步扩展,将Hugging Face Hub的开源模型引入Azure Machine Learning。我们共同构建了一个全新的Hugging Face Hub模型目录,直接在Azure Machine Learning Studio中提供,其中包含了来自Hugging Face Hub的数千个最受欢迎的Transformers模型。通过这个新的集成,您现在可以在托管的端点上仅需几次点击即可部署Hugging Face模型,运行在安全可扩展的Azure基础设施上。
这一全新的体验是我们去年宣布战略合作伙伴关系时的延伸,当时我们在Azure Marketplace中推出了Azure Machine Learning Endpoints作为一款新的托管应用程序,以简化在Azure上部署大型语言模型的体验。虽然我们之前的市场解决方案是一个有前途的初始步骤,但它还存在一些限制,只有通过在Azure Machine Learning内进行本地集成才能克服。为了解决这些挑战并增强客户体验,我们与微软合作,在Azure Machine Learning Studio内为Hugging Face用户提供了一个完全集成的体验。
Hugging Face拥有超过20万个开源模型,每天提供超过100万次模型下载,是所有机器学习领域的首选目的地。但是,今天将Transformers部署到生产环境仍然是一个挑战。
开发人员和组织面临的主要问题之一是部署和扩展生产级推理API的困难。当然,一种简单的选择是依赖基于云的AI服务。虽然它们非常简单易用,但这些服务通常由一组有限的模型提供支持,这些模型可能不支持您所需的任务类型,而且可能无法进行深度定制。另外,基于云的ML服务或内部平台可以给您提供完全的控制权,但代价是更多的时间、复杂性和成本。此外,许多公司对安全性、合规性和隐私有严格要求,要求只能在他们有管理控制权的基础设施上部署模型。
“通过新的Hugging Face Hub模型目录,在Azure Machine Learning内进行本地集成,我们与微软合作开启了合作伙伴关系的新篇章,为企业客户提供了一种超级简单的方式,在安全的Azure环境中部署Hugging Face模型进行实时推理。” Hugging Face的首席布道师Julien Simon表示。
“将Hugging Face的开源模型集成到Azure Machine Learning中代表着我们致力于为开发人员提供行业领先的AI工具。” 微软Azure AI平台的企业副总裁John Montgomery表示。“这种合作不仅简化了大型语言模型的部署过程,还为实时推理提供了一个安全可扩展的环境。这是我们加速AI项目并迅速、安全地推出创新解决方案的重要里程碑,得益于Azure基础设施的强大支持。”
在Azure Machine Learning上部署Hugging Face模型从未如此简单:
- 在Azure Machine Learning Studio中打开Hugging Face注册表。
- 点击Hugging Face模型目录。
- 按任务或许可证进行筛选并搜索模型。
- 点击模型图块打开模型页面,并选择实时部署选项来部署模型。
- 选择Azure实例类型并点击部署。
几分钟之内,您可以测试您的端点,并将其推理API添加到您的应用程序中。从未如此简单!
如果您想看到该服务的实际应用,可以点击下面的图片启动一个视频演示。
Hugging Face模型目录在Azure Machine Learning的所有可用Azure区域中,今天开始提供公共预览版。请尝试该服务,并在论坛中告诉我们您的反馈和问题!