Anthropic招聘化武专家防范AI滥用
据监测,Anthropic在LinkedIn上发布了“化学武器与高当量爆炸物政策经理”职位。该职位要求申请人具备至少5年化学武器或爆炸物防御从业经验,并了解放射性散布装置(脏弹)。公司表示,此举旨在防止其AI助手Claude被用于“灾难性滥用”,即担心其可能被用于获取制造大规模杀伤性武器的信息,因此需要专家评估现有安全防护是否足够严密。
行业趋势与专家质疑
OpenAI也在招聘类似方向的生物与化学风险研究员,年薪最高可达45.5万美元。对此,科技研究员Stephanie Hare博士提出质疑:让AI系统处理敏感的武器制造信息本身是否安全?即使已指令AI不得使用。她同时指出,目前缺乏相关的国际条约或法规对此类工作进行规范。