澳大利亚在线安全监管机构近日发出警告，称人工智能聊天机器人Grok被用于未经同意生成性化图像，相关投诉在最近几个月翻了一番。
网络安全专员朱莉·英曼·格兰特表示，部分投诉涉及潜在的儿童性剥削材料，另一些则与成人图像虐待有关。她对此趋势“深感担忧”。
Grok的“前卫”定位引发争议
与ChatGPT等AI不同，埃隆·马斯克的xAI公司将Grok定位为能生成其他模型拒绝内容的“前卫”替代品。其去年推出的“Spicy Mode”专门用于生成露骨内容。
监管压力与法律行动
格兰特强调，澳大利亚的行业准则要求在线服务必须实施保护措施，防止儿童性剥削材料，无论其是否由AI生成。澳大利亚网络安全局已对“裸体化”服务采取过执法行动，迫使相关服务退出市场。
深度伪造威胁与立法应对
监管机构正面临AI生成“超逼真内容”的挑战，这使得合成虐待内容更易制作，也更难应对。
- 2024年9月，澳大利亚联邦法院开出了首例深度伪造罚单，一名男子因发布知名女性的深度伪造色情内容被处以高额罚款。
- 立法者正推动更严厉的法律。一项拟议的法案将对未经同意分享深度伪造的个人处以最高10.2万美元罚款，对违规公司的罚款最高可达51万美元。
监管机构表示，将利用一切监管工具进行调查并采取行动，要求企业在生成式AI产品的全生命周期内置安全措施。
