草根影响力新视野(琪拉编译)
又有一位OpenAI主管安全问题的高阶主管离职，引发了人们对该公司的担忧。
雷克(Jan Leike)本周辞去领导公司“超级对齐”团队的职务，他在 X 周五的一条帖子中表示，他不同意 OpenAI 领导层的“核心优先事项”，并且“已经达到了最后的临界点”。
“对齐”或“超级对齐”是人工智能领域中使用的术语，指训练人工智能系统在人类需求和优先事项范围内运作的工作。雷克于 2021 年加入 OpenAI，去年夏天，该公司宣布他将共同领导超级对齐团队，专注于“科学和技术突破，以引导和控制比我们更聪明的人工智能系统”。
然而，雷克周五表示，近几个月来，该团队资源不足，而且一直在“逆风航行”。
他在 X 上表示：“有时我们在计算方面遇到困难，完成这项重要研究变得越来越困难。”他补充说，周四是他在这家新创公司的最后一天。他说：“建造比人类更聪明的机器本质上是一项危险做。但在过去的几年里，注重安全的文化和安全的流程已经让位给开发闪亮的产品。”
图片取自:(示意图123rf)
执行长山姆奥特曼说： “（我）非常感谢雷克对 OpenAi 的对齐研究和安全文化做出的贡献，看到他离开我感到非常难过。”Altman 在 X 上说道。
Leike 周三宣布退出，发生在 OpenAI 进行更广泛的领导层洗牌之际。在他辞职之前，OpenAI 联合创始人兼首席科学家，也曾帮助领导超级对齐团队的 苏茨克维尔(Ilya Sutskever)也于最近宣布他将离开公司。
苏茨克维尔表示，他将离开去从事一个“对我个人来说非常有意义的计划”。但考虑到他在去年奥特曼戏剧性的解雇和回归中发挥的核心作用，他的退出值得注意，当时他投票罢免了奥特曼的首席执行官和董事会主席职位。
过去他一直担心奥特曼将人工智能技术推向“太远、太快”。但在奥特曼被赶下台几天后，苏茨克弗改变了主意，他签署了一封员工信，呼吁整个董事会辞职并让奥特曼回归。
雷克说：[我相信我们的团队应该要更多花时间在建造下一个世代人工智能的模范上面。我们要注意隐私、社会影响、保密等等。这些问题我觉得很难达到！]
Polygon recent comments