使用和混合 Hugging Face 模型与 Gradio 2.0
使用 Hugging Face 模型和 Gradio 2.0
本文转自Gradio博客。
Hugging Face模型中心拥有超过10,000个由用户提交的机器学习模型。您可以找到各种自然语言处理模型,例如,能够在芬兰语和英语之间进行翻译,或者识别中文语音。最近,该中心还扩展到了包括图像分类和音频处理的模型。
Hugging Face一直致力于使模型易于访问和使用。使用transformers
库只需几行代码即可加载模型。加载模型后,可以以编程方式对新数据进行预测。但不仅仅是程序员在使用机器学习模型!在机器学习中,越来越常见的场景是向跨学科团队演示模型,或者让非程序员使用模型(以帮助发现偏见、故障点等)。
Gradio库可以让机器学习开发人员非常容易地从机器学习模型创建演示和图形用户界面,并且可以像共享Google文档链接一样免费与合作者共享。现在,我们非常高兴地宣布,Gradio 2.0库让您只需一行代码即可加载和使用几乎任何Hugging Face模型与图形用户界面。以下是一个示例:
默认情况下,这将使用HuggingFace的托管推理API(您可以提供自己的API密钥或使用公共访问,无需API密钥),或者您也可以运行pip install transformers
并在本地运行模型计算。
您想要自定义演示吗?您可以通过传入自己的参数来覆盖Interface类的任何默认参数:
但是,还有更多!已经在模型中心上有10,000个模型,我们将模型视为不仅仅是独立的代码片段,而是可以组合和混合以创建更复杂的应用和演示的乐高积木。
例如,Gradio允许您并行加载多个模型(假设您想要比较来自Hugging Face的4个不同的文本生成模型,以查看哪个最适合您的用例):
或者将模型串联起来。这样可以轻松构建由多个机器学习模型组成的复杂应用程序。例如,在这里,我们可以使用3行代码构建一个用于翻译和总结芬兰新闻文章的应用程序:
您甚至可以在并行中混合多个模型进行比较(我们将让您自己尝试!)。要尝试其中任何内容,只需安装Gradio(pip install gradio
)并选择要尝试的Hugging Face模型。开始使用Gradio和Hugging Face进行构建吧!🧱⛏️