三巨头联手，曝谷歌、OpenAI、Anthropic 拟共同组建 AI 安全标准自律组织

IT之家 9 月 24 日消息，据 The Information 今天（24 日）晚间援引知情人士透露，谷歌、OpenAI 和 Anthropic 这三家 AI 企业正自行推动组建一个聚焦 AI 安全标准的机构，计划在今年年底或明年初正式启动，避免等待政府监管介入。

知情人士表示，这三家公司暂定将这一自律组织命名为 Standards Authority for Frontier AI（直译为前沿人工智能标准管理局，简称 SAFA）。工作小组的部分成员曾考虑邀请多名知名人士出任首席执行官，并拟定了科学顾问的候选名单。

这三家 AI 巨头希望设立一个面向尖端模型开发商的行业自律组织。SAFA 计划承担多项关键职责，包括在模型投入使用前支持第三方机构进行测试，以及制定 AI 开发商报告安全与安保事件的流程。

参与该计划的人士透露，SAFA 还将把各实验室此前自愿遵守的安全与安保承诺转化为具体的操作标准，同时确定独立模型及实验室审计人员所需的资质。

工作组成员还在讨论，SAFA 是否应直接负责模型的安全与能力测试。目前，这类测试由美国商务部人工智能标准与创新中心负责，部分工作组成员担心该中心资源有限，难以对前沿模型进行充分评估。

知情人士称，有成员主张 SAFA 在该中心现有测试基础上增加其他测试和评估项目，但双方是否会出现职能重叠仍未明确，工作组仍在继续讨论。

在继续闭门商讨 SAFA 启动方案的同时，这三家公司的高管也在公开呼吁建立统一的安全标准，并推动更广泛的国际协调。行业之外具体由哪些政府机构牵头制定这些标准，目前仍不明确。