文本到图像扩散模型中用于公平性的方法和系统

本申请涉及文本到图像扩散模型中用于公平性的方法和系统。本发明提供了用于减少文本到图像扩散模型中的偏见，特别是与职业提示中的性别、种族及其交叉相关的偏见的方法和系统。本发明引入了一种基于分布对准的公平性框架，包括两个核心技术方案：(1)分布对准损失，该分布对准损失将模型的输出朝向用户定义的目标分布调整；以及(2)使用调整后的梯度对模型的采样过程进行调整后的直接微调(调整后的DFT)，以基于所生成的图像优化损失。这些技术减少了偏见，同时支持对公平性的多样观点，诸如跨多个概念的受年龄控制的去偏见。该方法的可扩展性允许同时对多个提示进行去偏见，从而提高了不同人口统计数据中扩散模型输出的包容性。