为负责任的生成式人工智能建立标准
为负责任的生成式人工智能确立基准
随着人工智能在各行各业的快速发展，负责任的人工智能已成为决策者和数据科学家们关注的热门话题。但随着易于获取的生成式人工智能的出现，这一点比以往任何时候都更加重要。负责任的人工智能之所以至关重要，有几个原因。
其中一些原因包括对偏见/歧视、数据隐私和保护、安全性，以及透明度和问责性的关注。因此，让我们深入挖掘一下，看看在人工智能方面，负责任人工智能的原则为什么是一个关键因素，以及一些科技领导者正在做些什么。
微软的负责任生成式人工智能承诺
微软希望通过公开其对负责任生成式人工智能的六个原则，来展示其对负责任生成式人工智能的承诺。据该公司称，这包括公平性、可靠性和安全性、隐私和安全、包容性、透明度和问责性。微软通过治理、政策和研究来实现其承诺。
微软负责任生成式人工智能倡议的一些具体例子包括人工智能体验（HAX）手册、人工智能公平性核对表以及负责任人工智能仪表板。微软还与联合国教科文组织等组织合作，推动负责任生成式人工智能。
活动-ODSC西部2023
线下与线上会议
10月30日至11月2日
加入我们，深入探讨最新的数据科学和人工智能趋势、工具和技术，从低温等离子体到数据分析，从机器学习到负责任人工智能。
设计负责任
促进负责任生成式人工智能最重要的事情之一是从设计人工智能系统时就考虑责任。这意味着从一开始思考人工智能系统的潜在风险和挑战，并不是在系统上线后才加以考虑。决定推进人工智能系统后，负责任生成式人工智能应成为任何设计的基石。
当然，这也意味着以公平、可靠、安全、包容、透明和问责为原则设计人工智能系统。
进行对抗性测试
这个方面往往没有得到足够的讨论，即利用对抗性训练和测试来促进人工智能的责任。对抗性测试的工作原理是通过使用提示和其他方法测试或组织来发现人工智能系统的弱点。例如，这可以包括使用一系列提示链试图越狱人工智能系统，以强制产生不想要的反应。
这些反应范围从简单的错误提供事实信息到由于人工智能生成的内容而引起的合理的安全问题。因此，通过进行对抗性测试，内部团队能够在人工智能系统被利用之前识别和修复潜在的漏洞。这些团队通常不仅由数据科学专业人员构成，还需要利用一系列更有可能发现任何安全问题的技能。
谨慎沟通
信不信由你，沟通对于促进负责任生成式人工智能至关重要。这是因为在与人工智能相关的沟通中，对于广大受众，特别是非技术利益相关者而言，清晰、简洁且易懂非常重要。这种重要性很容易理解，只需看看自去年以来ChatGPT在技术圈之外的迅速应用即可。ChatGPT表明，社会准备立即使用人工智能，而不是等待未来。
这就是为什么清晰很重要。它有助于与可能没有某些技术专长的受众建立信任和透明度。它还有助于减少偏见和歧视，并确保人工智能系统与人类价值观一致。
监测偏见
偏见具有明显的负面含义，这是有很好的原因的。没有人希望人工智能对任何群体存在偏见，因为这有助于降低信任，并增加其他风险。这就是为什么监测人工智能系统中的偏见很重要，确保数据集清洁等方法。但事实是，偏见可以以许多方式渗入人工智能系统，因此保持警惕很重要。有多种方法可以监测偏见，包括：
- 分析用于训练人工智能系统的数据
- 评估人工智能系统的输出
- 进行用户研究
使用高质量的数据集
正如我们在过去一年所看到的，网络爬虫已经在创建独特而功能强大的LLMs方面做出了巨大的工作。随着复杂性的增长，可以明显地看出用于训练模型的数据集的质量将变得更加重要。这就是为什么合成数据变得越来越流行，并且在未来几年内可能会更加受欢迎的原因之一。然而，并不仅仅需要依赖合成数据。
这就是数据科学家和其他数据专业人员的用武之地。他们确保所有数据集的质量得到维护，因为质量较差的数据集可能会毁掉公司内的团队所花费的数百甚至数千小时的工作。
对负责任的生成式人工智能的总结
负责任的生成式人工智能有助于确保技术的公平性、透明性和尽可能多的人的可访问性，并最大程度地减少任何可能的伤害。现在，如果你对这个话题感兴趣，Microsoft负责人工智能工程的全球负责人Sarah Bird博士将在几个星期后在ODSC West演讲。
所以不要错过，亲自来看看人工智能的前景。注册参加，门票仍有30%的折扣！
你还可以查看我们的生成式人工智能跟踪，看看如何使用GenAI！一些会议议题包括：
- 使用强化学习来对齐开源LLMs
- 生成式人工智能、自主人工智能代理和AGI-人工智能新进展如何改进我们构建的产品
- 实践中的Gen AI实施
- LLMs和GPT模型在安全领域的范围
- 使用GPT-4和Langchain进行提示优化
- 构建生成式人工智能应用：一个LLM案例研究
- 图形：解释GenAI的下一个前沿
- 稳定扩散：文本到图像范例的新前沿
- 生成式人工智能、自主代理和神经技术：开创游戏、模拟和元宇宙的下一个时代
- 在企业中使用生成式人工智能：释放潜力并应对挑战
- 人工智能范式转变：大型语言模型的内部情况
- 部署可信赖的生成式人工智能
