一段使用Kling AI等工具制作的《怪奇物语》演员“全身角色替换”视频在社交媒体爆红，观看量超千万次，展示了AI视频生成技术的惊人进步。
技术飞跃与行业冲击
a16z合伙人Justine Moore指出，此类技术能以极低成本实现无限次角色替换，将立即影响好莱坞等创作流程。宾汉顿大学教授余晨表示，全身替换技术需同步处理姿态、骨骼、服装与运动合成，标志着合成媒体能力的显著提升，其检测难度也远超早期的面部深度伪造。
安全闸门与广泛滥用
网络安全专家Emmanuelle Saliba警告，如今仅凭一张照片就能生成任何人的逼真视频，而针对个人数字肖像的默认保护措施几乎为零。滥用途径包括：
- 金融诈骗与身份冒用
- 制造未经同意的私密影像
- 政治虚假信息与商业间谍活动
- 有组织的社交工程攻击
应对挑战与责任共担
专家认为，应对这一挑战需要多方共同努力：
- 开发者需在公开模型中实施关键安全措施。
- 平台方应投资自动化检测与人工审核，并对高风险内容制定明确处理程序。
- 政策制定者需建立明确的责任框架与强制披露要求。
- 研究人员应优先开发能识别合成内容固有统计特征的检测模型。
余晨强调，这些工具的快速普及意味着，今天制定的应对框架将在数月内面临大规模考验。
