事件起因
2月28日,美国五角大楼要求人工智能公司Anthropic取消其AI模型Claude内置的关于“自主杀手机器人”和“大规模监控”的安全限制,否则将面临失去2亿美元合同及被列为供应链风险。
Anthropic的强硬回应
Anthropic拒绝就此作出书面承诺。其联合创始人兼CEO Dario Amodei表示:“这些威胁并不能改变我们的立场,无法从良心上答应他们的请求。”
行业声援与立场
- OpenAI首席执行官Sam Altman公开声援Anthropic,认为五角大楼不应进行此类威胁。
- 尽管存在竞争,但两家公司在AI安全红线上立场一致。
- 据悉,70名OpenAI员工签署了支持性公开信,谷歌工程师也表达了支持。
特朗普的封禁令
前总统特朗普对此作出强硬回应,指示所有联邦机构立即停止使用Anthropic技术,并称:“我们不需要它,我们不想要它。”使用其产品的机构将有六个月淘汰期,否则Anthropic将面临严重后果。