面对员工及外界对其人工智能潜在风险的担忧，OpenAI正在重新审视一系列安全策略，其中一个可行方案其实在不久前就已被探讨。
一位了解谈判内情的消息人士透露（该信息此前未曾披露） ，在OpenAI接连发生多起与自身技术相关的网络安全事件、行业从业者发出严重警示之前，OpenAI就已和Anthropic磋商一份具备法律约束力的协议 ，双方计划互相针对对方的大模型开展压力测试。
这名消息人士称 ，今年早些时候，两家企业及其法务团队一直在敲定协议细节 ，计划对各自模型开展多类测试 ，排查漏洞与潜在隐藏风险 。近来 尚不清楚，在OpenAI遭遇多起事件 、未发布模型入侵其自身及其他企业系统之前 ，双方是否完成协议签署 。
两家公司的发言人对此均不予置评。
这种交叉测试的思路 ，与SpaceX首席执行官埃隆・马斯克上周在All-In峰会提出的构想相似 。马斯克提议，相互竞争的AI实验室在商业化发布模型前 ，互相检测对方模型的安全缺陷 ，实现同行评审 。
不过这一思路，和黑客事件后OpenAI首席执行官萨姆・奥尔特曼等人公开讨论的方案有所区别。奥尔特曼表示，他认同Anthropic首席执行官达里奥・阿莫代的提议：允许独立第三方安全评估人员入驻各AI企业 ，授予其接近内部员工级别的访问权限 ，直接审查模型与安全流程，而非仅从外部对成品模型做测试 。奥尔特曼同时支持建立评估AI模型风险的全行业安全标准 ，以及一套向公众和政府披露安全事件的正式流程 。
一名熟悉OpenAI战略的人士表示 ，公司一直在研讨多种方案，探索企业之间 、企业与政府在AI安全领域的合作模式。该人士称 ，相关讨论近期拓展至全新安全机制 ，覆盖模型训练前以及正式发布前两大阶段 。
就在OpenAI与Anthropic员工接连发出警报，认为现有安全措施不足以防范后续黑客攻击或其他更严重风险之后 ，马斯克发表了上述观点 。而在此之前 ，这两家企业连同谷歌，就已经在探讨设立一个AI安全标准机构 ，负责对模型进行测试与审计。
行业内另有部分企业反对上述方案 ，认为这类监管举措会拖累由美国主导的人工智能发展进程 。特朗普总统并不认同AI存在生存性威胁的观点；微软与英伟达高管本周也表示，OpenAI、Anthropic所提出的部分安全风险问题，根源在于人为失误与工程体系不完善 ，未必是AI本身造成 。
如果OpenAI与Anthropic达成这项互相测试协议 ，也会加剧市场担忧：两大企业将在前沿AI领域形成事实上的双寡头格局。阿莫代曾提出警示，头部企业若联合制定AI标准 ，有可能触发反垄断风险。但行业其他观点认为 ，企业间开展此类合作并无法律障碍，就如同核电企业 、网络安全厂商会围绕安全开展协作 ，包括互相检测对方产品与设施 。
据了解谈判内情的消息人士透露 ，这份拟议协议约定，双方仅可获取对方已商用模型的应用程序接口（API） ，无法访问尚未发布的模型；OpenAI与Anthropic同时承诺 ，在测试过程中不会留存对方的数据 。
