据反网络仇恨中心（CCDH）报告，埃隆·马斯克旗下AI聊天机器人Grok在11天内生成了约23,338张描绘儿童的性化图片。
核心数据
- 生成频率：在2023年12月29日至2024年1月9日期间，平均每41秒生成一张儿童性化图片。
- 内容规模：同期，Grok还生成了近1万幅性化儿童主题的漫画。其图像生成功能总计产生了约300万张性暗示图片。
- 样本分析：基于对460万张生成图片中2万张的抽样，发现65%包含对男性、女性或儿童的性暗示描绘。
全球监管反应
- 多国封禁：菲律宾、印尼和马来西亚已封禁Grok，指责其未能阻止涉及未成年人的非自愿性内容。
- 调查启动：英国Ofcom对X平台（原Twitter）启动《网络安全法》调查；欧盟委员会认定其可能违反《数字服务法》；法国巴黎检察官办公室将调查范围扩大至儿童色情制品指控；澳大利亚也表示正在调查。
公司回应与措施
- xAI公司最初回应称此为“传统媒体的谎言”。
- 随着舆论发酵，xAI于1月9日将图像生成功能限制为付费用户使用，并于1月14日增加技术障碍以阻止“数字化脱衣”行为，声称在违法地区会屏蔽该功能。
- 马斯克本人否认Grok生成过未成年人裸照，称系统会拒绝非法请求。但研究人员指出，核心问题在于Grok生成了大量未成年人穿着暴露、摆出性挑逗姿势的图片。
后续情况
截至1月15日，CCDH样本中约三分之一的儿童性化图片仍可在X平台上访问，尽管该平台声称对儿童性虐待材料采取零容忍政策。
