开发Diffusers库的伦理指南

'Ethical Guidelines for Developing the Diffusers Library.'

我们正在一次次地使我们的库更加负责任的旅程中!

作为Diffusers库文档的一部分,我们自豪地宣布我们推出了一个道德框架。

鉴于扩散模型在世界上的实际应用和对社会可能产生的负面影响,该倡议旨在指导Diffusers库维护者在社区贡献方面做出技术决策。我们希望在我们做出决策的方式上保持透明,并且最重要的是,我们的目标是澄清决策背后的价值观。

我们将伦理视为一个利用指导价值观、具体行动和持续调整的过程。因此,我们致力于随着Diffusers项目的发展和社区宝贵的反馈不断调整我们的准则。

  • 透明性:我们致力于在处理PR时保持透明,向用户解释我们的选择,并做出技术决策。
  • 一致性:我们致力于保证用户在项目管理方面获得同样的关注,确保其在技术上的稳定性和一致性。
  • 简洁性:出于对Diffusers库易于使用和利用的愿望,我们致力于保持项目目标的简洁和一致性。
  • 可访问性:Diffusers项目帮助降低了对技术专业知识的贡献者的门槛。这样做可以使研究成果更容易为社区所访问。
  • 可复现性:我们旨在对通过Diffusers库提供的上游代码、模型和数据集的可复现性保持透明。
  • 责任:作为一个社区,通过团队合作,我们对我们的用户负有集体责任,预见并减轻这项技术的潜在风险和危险。

此外,我们提供了一个非详尽的(并且希望不断扩展!)由Hugging Face团队和更广泛的社区实施的安全功能和机制的列表。

  • 社区标签:它使社区能够讨论和更好地合作进行项目。

  • 标签功能:知识库的作者可以将其内容标记为“非公开”。

  • 偏见探索和评估:Hugging Face团队提供了一个空间,以交互方式展示稳定扩散和DALL-E中的偏见。在这个意义上,我们支持和鼓励偏见的探索和评估。

  • 鼓励部署的安全性

    • 安全的稳定扩散:它缓解了模型(如稳定扩散)在未经过滤的网络抓取数据集上训练时容易出现不适当退化的问题。相关论文:Safe Latent Diffusion: Mitigating Inappropriate Degeneration in Diffusion Models。

    • Hub上的分阶段发布:在特别敏感的情况下,对某些知识库的访问应受到限制。这种分阶段发布是一个中间步骤,允许知识库的作者对其使用具有更多的控制。

  • 许可:OpenRAILs是一种新型的许可证,它可以确保我们提供免费访问,同时具有一系列限制,以确保更负责任的使用。