Anthropic 宣布成立 The Anthropic Institute(Anthropic 研究院),由联合创始人 Jack Clark 担任公益负责人,旨在向公众公开其在构建前沿 AI 过程中所识别的风险与挑战。
该研究院整合了公司内部三个现有团队:
- 前沿红队:负责对 AI 系统进行极限压力测试。
- 社会影响团队:研究 AI 的实际使用方式及其社会效应。
- 经济研究团队:追踪 AI 对就业和宏观经济的影响。
同时,研究院正在组建关于 AI 进展预测以及 AI 与法律体系交互的新研究方向。
Clark 判断,未来两年将出现“远比现在更剧烈的 AI 进展”,社会需应对就业重塑、AI 价值观设定等重大问题。创始成员包括前 Google DeepMind 研究高级总监 Matt Botvinick、经济学家 Anton Korinek 等。Anthropic 同步扩充公共政策团队,计划在华盛顿开设办公室。