岩猫星空网
OpenAI 首席执行官 Sam Altman 发文表示，该公司的下一个主要生成式 AI 模型将首先提交给美国政府进行安全检查。
“关于 openai 安全的一些简要更新：
正如我们去年 7 月所说，我们致力于将至少 20% 的计算资源分配给整个公司的安全工作。
我们的团队一直在与美国人工智能安全研究所（US AI Safety Institute）就一项协议进行合作，我们将提供对我们下一个基础模型的早期访问权，以便我们能够共同推动 AI 评估科学的发展。对此感到兴奋！
最后，我们希望现任和前任员工能够无所顾虑的提出疑虑。这对任何公司都至关重要，对我们尤其如此，这是我们安全计划的重要组成部分。今年 5 月，我们废除了针对现任和前任员工的非贬损条款以及赋予 OpenAI 取消既得股权权利（尽管从未使用过）的条款。我们一直在努力让它变得正确。”
有五名美国参议员近期曾致函 Altman，质疑 OpenAI 在安全方面的承诺，以及根据雇佣合同中的非贬损条款，对公开提出担忧的前员工可能进行报复的情况。对此，OpenAI 首席战略官 Jason Kwon 则致函回应，重申了该公司致力于开发造福全人类的 AI 的愿景。并示，其致力于在流程的每个阶段“实施严格的安全协议”。
值得注意的是，美国政府并不是唯一获得早期使用权的政府。OpenAI 还与英国政府达成了类似的协议，以对其模型进行安全审查。
未经允许不得转载：岩猫星空网 » Altman：下个 OpenAI 模型将首先接受美国政府的安全检查
