资讯公告
美国参议员调查OpenAI在安全和就业方面的做法
发布时间:2024-07-24 发布者:FebHost

美国参议员调查OpenAI在安全和就业方面的做法


五位著名的参议院民主党人致信 OpenAI 首席执行官山姆-奥特曼(Sam Altman),要求澄清该公司在安全和就业方面的做法。


这封由参议员布莱恩-沙茨(Brian Schatz)、本-雷-卢汉(Ben Ray Luján)、彼得-韦尔奇(Peter Welch)、马克-华纳(Mark R. Warner)和小安格斯-金(Angus S. King, Jr.)签署的信,是对最近有报道质疑 OpenAI 承诺实现其安全、负责任的人工智能发展既定目标的回应。


参议员们强调了人工智能安全对国家经济竞争力和地缘政治地位的重要性。他们指出,OpenAI 与美国政府和国家安全机构合作开发网络安全工具,强调了安全人工智能系统的重要性。


"信中写道:"国家和经济安全是美国政府最重要的责任之一,不安全或脆弱的人工智能系统是不可接受的。


立法者要求在 2024 年 8 月 13 日前提供几个关键领域的详细信息。其中包括


  • OpenAI 将 20% 的计算资源用于人工智能安全研究的承诺。
  • 公司对现任和前任员工的非贬损协议的立场。
  • 员工提出网络安全和安全问题的程序。
  • 防止人工智能模型、研究或知识产权被盗的安全协议。
  • OpenAI在不报复政策和举报渠道方面对自身《供应商行为准则》的遵守情况。
  • 发布前对 OpenAI 系统进行独立专家测试和评估的计划。
  • 承诺将未来的基础模型提供给美国政府机构进行部署前测试。
  • 发布后的监控实践以及从已部署模型中汲取的经验教训。
  • 公开发布已部署模型的回顾性影响评估的计划。
  • 关于履行对拜登-哈里斯政府的自愿安全和安保承诺的文件。


参议员们的调查触及了最近围绕 OpenAI 的争议,包括有关安全实践的内部纠纷和涉嫌网络安全漏洞的报道。他们特别询问 OpenAI 是否会 "承诺从雇佣协议中删除任何其他条款,这些条款可能会被用来惩罚那些公开提出对公司做法的担忧的员工"。


此次国会审查正值有关人工智能监管和安全措施的争论日益激烈之际。这封信提到了领先的人工智能公司去年向白宫做出的自愿承诺,并将其视为在人工智能安全和安保方面 "建立信任的重要一步"。

文章相关标签: OpenAI 人工智能
购物车