谷歌、微软等 14 家公司成立“安全人工智能联盟”

谷歌、OpenAI、微软等 14 家科技公司宣布联合成立安全人工智能联盟 (CoSAI) 。该倡议旨在通过提供开源方法、框架和工具来解决“AI 安全碎片化的问题”。

其他创始成员还包括亚马逊、英特尔、英伟达、IBM、思科、Paypal、Anthropic、Cohere、Chainguard、WIZ、GenLab。

CoSAI 被定义为一个开源社区，由项目管理委员会领导，负责推进和管理其整体技术议程，并由来自学术界和工业界的人工智能专家组成的技术指导委员会负责监督其工作流程。

CoSAI 的工作范围包括安全地构建、集成、部署和操作 AI 系统，重点是减轻模型盗窃、数据中毒、提示注入、规模化滥用和推理攻击等风险。该项目旨在制定全面的安全措施，解决 AI 系统中典型和独有的风险。

CoSAI 最初将形成三个工作流：

后续还计划随着时间的推移增加更多工作流。

更多详情可查看官方公告。

未经允许不得转载：岩猫星空网 » 谷歌、微软等 14 家公司成立“安全人工智能联盟”