Anthropic CEO怒斥OpenAI：AI军事合作安全机制是表演？

Anthropic内部备忘录曝光：直指OpenAI与五角大楼合作的安全“表演”

就在OpenAI高调宣布与美国国防部达成人工智能合作协议之际，其竞争对手Anthropic与五角大楼的合作却因安全条款问题戛然而止。数小时后，Anthropic联合创始人兼CEO达里奥·阿莫迪（Dario Amodei）向全体员工发送了一封措辞尖锐的内部信，不仅揭示了谈判内幕，更将矛头直指OpenAI及其CEO萨姆·奥特曼（Sam Altman），质疑其AI安全承诺的实质。

这封邮件将两大AI巨头在军事应用、安全伦理与商业竞争层面的深层矛盾彻底公开化。

核心争议：何为真正的AI“安全层”？

根据公开信息及合同推测，OpenAI与国防部的合作模式可概括为：其AI模型本身对“所有合法用途”开放，仅依靠一个附加的“安全层”来限制不当应用。

阿莫迪在信中对此提出了根本性质疑：

• “安全层”的实质：他认为，这本质上是一种模型的“拒绝机制”，或是由合作伙伴（如Palantir）提供的分类系统，旨在拦截特定任务。OpenAI还可能派遣前线工程师进行人工监督。
• “二八定律”的判断：阿莫迪断言，在军事应用场景下，这类方案“大约20%是真实防护，80%是安全表演”。其根本缺陷在于，模型无法理解自身所处的宏观系统上下文——它无从知晓自己是否被集成进“完全自主武器系统”，也无法判断所处理的数据是否来自大规模国内监控。

技术局限：为何模型拒绝机制在军事场景中“失灵”？

信中指出，依赖技术手段防止AI滥用，在国防与监控领域面临独特且严峻的挑战：

1. 上下文缺失的致命伤：判断一个AI是否在进行网络攻击或许可行，但要识别其行为是否构成“大规模监控”或服务于“自主杀伤”，则需要理解复杂的操作意图与系统环境，这对当前AI而言几乎是不可能完成的任务。
2. 越狱攻击的普遍性：AI安全社区深知，模型的拒绝机制非常脆弱。通过提示词工程“欺骗”模型、绕过限制的做法（即“越狱”）十分常见。
3. 第三方方案的可靠性存疑：对于Palantir等公司推销的所谓安全解决方案，阿莫迪的评价更为直接，称其“几乎完全是一种安全表演”，目的更像是为公司内部提供“安抚剂”，而非构建可靠防线。
4. 人工监督的局限性：即便安排员工进行监督，在机密或大规模部署环境中，这也只能作为极其有限的辅助手段，无法成为核心保障机制。

合作破裂背后：是原则分歧还是政治博弈？

阿莫迪在信中披露了与国防部谈判的细节，揭示了合作破裂的深层原因，并强烈质疑OpenAI得以签约的背后逻辑。

• 被拒绝的条款：Anthropic曾试图在合同中加入与OpenAI类似的安全条款，但遭到了国防部的明确拒绝。这与国防部对外宣称的“Anthropic拒绝了相同条款”的说法相悖。
• 关键条款的删除要求：谈判尾声，国防部提出，只要Anthropic删除合同中唯一明确针对“大规模采购数据分析”的条款，就愿意接受其他所有条件。而这正是Anthropic最为关切的监控红线所在。
• “合法”不等于“安全”：阿莫迪驳斥了“自主武器与大规模监控本就违法，因此无需特别约束”的观点。他指出，国防部拥有进行国内监控的法定权限，在AI时代，通过合法采购公民数据并进行大规模分析已变得轻而易举。同时，关于自主武器“人类在回路”的要求仅是行政政策，而非法律，存在被轻易修改的风险。

直指萨姆·奥特曼：公关叙事与“煤气灯操控”

阿莫迪将批评的焦点指向了萨姆·奥特曼的个人行为模式，指控其通过精心策划的公关话术模糊事实、操纵舆论。

• “两面派”策略：阿莫迪指责奥特曼在台前公开支持Anthropic的安全红线以博取好感、分摊功劳，塑造“行业调解人”形象；却在幕后迅速与国防部签约，准备在Anthropic被贴上“供应链风险”标签时取而代之。
• “煤气灯操控”叙事：奥特曼试图将合作失败归咎于Anthropic“难以合作”、“态度强硬”。阿莫迪认为，这种模糊指责是为了掩盖真实原因——政治捐款的差异、对监管立场的不同，以及Anthropic拒绝参与“安全表演”来安抚内部员工。
• 分化与削弱：阿莫迪警告员工，奥特曼正以“支持”的姿态暗中削弱Anthropic的立场，使政府更容易对其施压。他呼吁员工认清这一模式，并在私下交流中反驳这种叙事。

结论：一场超越商业竞争的价值选择

这封内部信最终将争议提升至企业价值观与行业责任的层面。阿莫迪暗示，Anthropic之所以失去合同，根本原因在于其拒绝在关键安全红线上妥协，拒绝进行政治献媚，并坚持在AI政策问题上直言不讳。

这场风波不仅暴露了AI巨头在军事化道路上截然不同的选择，也向公众、监管机构乃至AI公司员工提出了一个尖锐的问题：在巨大的商业与政治利益面前，企业所谓的“安全承诺”究竟是坚固的伦理防火墙，还是精心设计的表演秀？