OpenAI 正在加入内容出处与真实性联盟（Coalition for Content Provenance and Authenticity，C2PA）指导委员会，并将把该开放标准的元数据整合到其生成式人工智能模型中，以提高生成内容的透明度。
C2PA 标准允许用元数据对数字内容进行认证，以证明其来源，无论是完全由人工智能创建、使用人工智能工具编辑还是传统方式采集。OpenAI 已经开始为 ChatGPT 和 OpenAI API 中最新 DALL-E 3 模型输出的图像添加 C2PA 元数据。这些元数据将被整合到 OpenAI 即将推出的视频生成模型 Sora 中。
"OpenAI解释说："没有这些信息，人们仍然可以创建欺骗性内容（或者可以删除这些信息），但他们无法轻易伪造或篡改这些信息，因此这些信息成为建立信任的重要资源。
此举正值今年美国、英国和其他国家举行大选之前，人们越来越担心人工智能生成的内容可能会误导选民。对人工智能创建的媒体进行认证有助于打击深度伪造和其他旨在制造虚假信息的篡改内容。
虽然技术措施有所帮助，但 OpenAI 承认，在实践中实现内容真实性需要平台、创作者和内容处理者采取集体行动，为最终消费者保留元数据。
除了 C2PA 集成外，OpenAI 还在开发新的出处方法，如用于音频和图像检测分类器的防篡改水印，以识别人工智能生成的视觉效果。
OpenAI 通过其研究人员访问计划开放了对其 DALL-E 3 图像检测分类器的访问申请。该工具可预测图像源自 OpenAI 模型的可能性。
"该公司表示："我们的目标是开展独立研究，评估分类器的有效性，分析其在现实世界中的应用，揭示此类应用的相关注意事项，并探索人工智能生成内容的特征。
内部测试结果表明，将非人工智能图像与《DALL-E 3》视觉图像区分开来的准确率很高，大约 98% 的《DALL-E》图像被正确识别，只有不到 0.5% 的非人工智能图像被错误标记。不过，分类器在区分 DALL-E 和其他生成式人工智能模型生成的图像时较为吃力。
OpenAI 还在其语音引擎定制语音模型中加入了水印技术，目前正在进行有限的预览。
该公司认为，越来越多地采用出处标准将导致元数据伴随内容的整个生命周期，从而填补 "数字内容真实性实践中的一个重要空白"。
OpenAI 正在与微软联合推出一项价值 200 万美元的社会复原力基金，以支持人工智能教育和理解，包括通过美国退休人员协会、国际 IDEA 和人工智能合作伙伴关系。
"OpenAI 表示："虽然上述技术解决方案为我们提供了积极的防御工具，但在实践中有效实现内容真实性还需要集体行动。
"我们围绕来源所做的努力只是更广泛的行业努力的一部分--我们的许多同行研究实验室和生成式人工智能公司也在推进这一领域的研究。我们对这些努力表示赞赏--业界必须合作并分享见解，以加强我们的理解，并继续促进在线透明度。
