包括 OpenAI 前员工在内的专家联盟强烈反对该公司脱离其非营利组织的根基。
在一封致加利福尼亚州和特拉华州总检察长的公开信中,这个由法律专家、公司治理专家、人工智能研究人员和非营利组织代表组成的团体认为,拟议的变革从根本上威胁到了 OpenAI 最初的慈善使命。
OpenAI 的成立具有独特的结构。公司章程》规定,其核心宗旨是 “确保人工智能造福全人类”,而不是 “为任何人谋取私利”。
信中的签名者认为,计划中的重组--将目前由原非营利实体(OpenAI-nonprofit)控制的营利性子公司(OpenAI-profit)转变为特拉华州公益公司(PBC)--将破坏关键的治理保障措施。
签名者认为,这种转变将把对具有潜在变革性的人工通用智能(AGI)的开发和部署的最终控制权,从一个以造福人类为宗旨的慈善机构,转移到一个对股东负责的营利性企业。
OpenAI 将 AGI 定义为 “在最具经济价值的工作中胜过人类的高度自主系统”。虽然承认 AGI 有 “提升人类 ”的潜力,但 OpenAI 的领导层也警告说,“存在滥用、重大事故和社会混乱的严重风险”。
联合创始人萨姆-奥特曼(Sam Altman)等人甚至签署声明,将减轻AGI灭绝风险等同于预防大流行病和核战争。
该公司的创始人--包括阿尔特曼、埃隆-马斯克和格雷格-布罗克曼--最初担心AGI由谷歌等纯商业实体开发。他们将 OpenAI 定义为非营利组织,专门 “不受经济回报需求的限制”。正如 Altman 在 2017 年所说,“我们唯一想对之负责的是全人类”。
即使 OpenAI 在 2019 年推出了 “利润封顶 ”的子公司以吸引必要的投资,它也强调非营利母公司将保留控制权,使命仍然是最重要的。主要保障措施包括
奥特曼本人在 2023 年向国会作证时说,这种 “不寻常的结构”“确保其始终专注于[其]长期使命”。