在Azure Machine Learning中的生成AI:将应用程序开发制度化为AI转型

利用Azure Machine Learning打造AI生成系统:将应用程序开发推向AI化转型

在生成式人工智能的时代,领导者们发现自己处在创新和目标的交叉点上。在董事会会议室和数据科学会议上反响不断的问题是:如何利用这个新的前沿技术组合推动创意和业务敏捷性,同时平衡社会责任,以促进组织目标的实现?生成式人工智能不仅仅是一种工具;它的承诺与独特的业务数据相结合,为竞争优势提供了动力。

微软的Azure Machine Learning团队一直处于创新的前沿,过去一年我们将生成式人工智能能力融入到我们的平台中,包括将许多开源模型加入到我们的模型目录中。在Microsoft Inspire上,我们宣布了Meta的Llama 2模型和Technology Innovation Institute的Falcon模型的新增。

MLOps领域已经发展出LLMOps,即改进和理解如何选择、精调和管理大型转换模型以满足组织内部各种需求的行为,尤其是如何在规模上监控这些解决方案。这对许多公司来说代表着一种新的操作技能。我们通过向Azure Machine Learning平台添加了多项功能来投资于这个专业领域。

本月,我们很高兴地宣布了Azure Machine Learning生成式人工智能产品组合的几个新成员。

在Azure Machine Learning模型目录中发现、自定义和部署视觉和多模式模型

我们不断寻找机器学习专业人员和开发人员的新的有效方式,以便轻松地发现、引导工程、精调和部署预训练的大型AI模型解决方案。在Build会议上,我们宣布了Azure Machine Learning模型目录中基础模型的公开预览。模型目录作为一个中央枢纽,用于探索来自Hugging Face、Meta和Azure OpenAI Service的各种基础模型集合。今天又迎来了一个重要的里程碑:我们向我们的模型目录中加入了多个全新的开源视觉模型,涵盖图像分类、物体检测和图像分割。

有了这些新的功能,开发者将能够轻松地将强大的视觉模型整合到他们的应用程序中,并在预测性维护、智能零售解决方案和自动驾驶等行业推动人工智能创新。

缩略图1:《Azure Machine Learning中的生成式人工智能:为AI转型的应用开发实施运行

图1. 在Azure Machine Learning模型目录中发现视觉模型。

此外,我们还非常高兴地宣布Azure Machine Learning套件的图像自动机器学习(AutoML)和自然语言处理(NLP)方面进行了重大更新。更新后的架构从一体化设计转变为模块化、基于组件的训练流水线,提供了增强的可扩展性、灵活性、调试性和可靠性。现在你可以将最新的基础模型整合到模型目录中的项目中,将流水线定制到特定任务,如物体检测或文本分类,并通过高效的组件重用节省计算成本。无论你是对现有模型进行精调还是探索新的架构,这些更新都使得执行、监控和扩展你的机器学习项目更加容易,同时利用了人工智能领域中的最新创新。

阅读公告博客以获取有关新视觉模型的更多信息。

阅读AutoML & NLP Blog以深入了解AutoML的增强功能。

为简化开发而引入代码优先的提示流程体验

大型语言模型(LLMs)使得许多以前不可行的智能任务成为可能。因此,构建利用LLMs的AI应用的需求越来越强烈。随着LLMs的快速演进,通过提示工程和LLMOps来充分发挥LLMs的潜力,以满足特定的商业需求变得至关重要。

为了简化通过提示工程调优质量的迭代过程,我们在Build 2023上引入了Azure Machine Learning提示流程,这是一种交互式的工作室体验,用于设计、实验、评估和部署LLM工作流。

即时流程提供了一系列的优势,帮助用户从构思到实验,最终到生产就绪的LLM应用过渡。在与客户交流时,我们经常听到的三个最常见的问题是:我如何管理即时版本,我如何与CI/CD流程集成,我如何导出和部署我的即时流程?

为了解决这些问题并向更强大的LLMOps能力扩展,我们通过我们的SDK、CLI和VS Code扩展引入了代码优先体验。 现已提供预览版本。 现在,开发人员可以轻松从即时流程UI导出一个流程文件夹,并与他们首选的代码存储库集成,确保他们的工作流程和提示受到版本控制并有效追踪。即时流程SDK不仅允许开发人员在本地测试流程并获得单次运行的输出,而且用户还可以将流程批次运行提交到云工作区并进行严格评估运行结果,为开发人员提供处理广泛测试场景的能力。为了促进顺畅的CI/CD流水线,即时流程CLI和SDK与Azure DevOps和GitHub Actions提供了无缝集成。VS Code的即时流程扩展增强了这种开发体验,允许在界面中快速测试、优化和调试流程。用户还可以直接将本地流程导入到Azure机器学习UI中,或使用CLI将流程文件夹导出到本地,实现本地和云之间的平滑过渡,确保本地开发始终与云端保持同步,并发挥Azure机器学习的全部功能。

– 请查看此演示视频,了解代码优先体验在即时流程中的实际运作方式。

– 访问我们的文档,了解更多关于即时流程的信息。

通过Azure机器学习监控您的生成式AI应用程序

在生产环境中监控模型是人工智能生命周期中的关键部分。数据和消费者行为的变化会随着时间的推移影响您的应用程序,导致过时的人工智能系统,这可能产生不希望的结果,对业务结果造成负面影响,并使组织面临合规和声誉风险。遗憾的是,在没有预先构建的工具支持的情况下,监控生成式AI应用程序的安全性、质量和性能的过程是艰巨的。从今天开始,通过Azure机器学习的预览版本,组织可以监控其生成式AI应用程序。

现在,用户可以使用模型数据收集器收集生产数据,定期分析关键的安全性和质量评估指标,及时收到关键问题的警报,并在Azure机器学习工作室的丰富仪表板上随时间可视化结果。

此功能与AzureML的预构建评估、注释和度量管道集成,可以评估生成安全性和质量。您现在可以监控应用程序的关键指标,例如连贯性、流畅性、接地性、相关性和相似性,并配置自定义阈值。

对于性能,使用即时流程的系统指标,您还可以查看和跟踪应用程序的令牌消耗情况,例如应用程序使用的总提示和完成令牌数。

这些功能共同帮助您更好地识别和诊断问题,了解使用模式,并通过提示工程优化应用程序。最终,对生成式AI进行模型监控可以在生产环境中实现更准确、负责任、合规的应用程序。

访问我们的文档,了解更多关于该功能的信息。

博客文章《Azure机器学习中的生成式AI:将应用程序开发商业化以实现AI转型》的缩略图 2

图2. 在监控概述页面,用户可以配置应用程序的监控,查看整体性能和查看通知。

博客文章《Azure机器学习中的生成式AI:将应用程序开发商业化以实现AI转型》的缩略图 3

图 3. 在监控详细页面中,用户可以查看时间序列指标、直方图、详细性能并解决通知。

下一步

本月的公告展示了 Azure 机器学习如何不断改进,我们倾听客户的需求并推进我们的平台。在几个月后的 Microsoft Ignite 中,我们将陈述数项新功能,帮助数据科学家和开发人员在其组织内释放生成式 AI 的力量。我们希望您能加入我们以了解更多。与此同时,您可以免费试用Azure 机器学习,并鼓励您加入我们的内测计划。如果您是 Azure 机器学习的现有客户,请访问我们的文档网站了解更多信息。

在这里了解更多!

本文由 Richard Tso 原创发布。已获得许可转载。