AIGC法律边界：AI换脸、诈骗、违规生成与模型销售风险

作者：@AIwood爱屋研究室



一句话导读：AI 能生成、能发布甚至能变现，不等于相关行为合法；视频结合公开案例，梳理换脸、诈骗、违规内容传播和模型销售中的责任边界。

核心内容：
1. AI 换脸不只是技术玩法。未经同意采集、处理他人人脸并制作传播相关内容，可能同时侵害肖像权、名誉权和个人信息权益；若传播获利或情节严重，还可能涉及行政乃至刑事责任。视频引用杭州萧山检察机关办理的案例，说明法律判断关注的是行为与后果，而不是使用了哪一种工具。
2. AI 诈骗只是诈骗手段升级。诈骗者可以用换脸、语音克隆等技术包装身份并实施婚恋、投资诈骗，但 AI 并不会改变行为本身的犯罪性质。视频提到的公开案例涉及 13 名受害者和 1300 余万元资金，重点应表述为“利用人工智能实施诈骗”，而非让 AI 成为责任主体。
3. 把内容发到境外平台不等于规避国内法律。是否承担责任，仍需结合行为发生地、面向对象、管辖规则，以及刑法、网络安全法、数据安全法、个人信息保护法等具体规定判断；服务器或平台位于境外，并不是当然免责条件。
4. 训练、传播或出售以破限、NSFW 等能力为卖点的 LoRA、Checkpoint，也不意味着只卖模型就没有风险。视频指出，目前不能把某类模型销售简单等同于已有判例中的单独罪名，但司法判断可能综合考察训练目的、宣传方式、销售对象、实际用途、是否明知违法用途，以及是否持续扩散获利。
5. 对 AIGC 创作者和开发者而言，最实用的底线是：模型能生成，不代表内容能发布；内容能发布，不代表可以据此盈利；技术工具不会代替使用者承担法律责任。涉及真实人物、人脸、声音、个人信息、违法内容或商业销售时，应在制作和发布前做合规审查。

适合人群：使用 AI 绘画、AI 视频、AI 配音、数字人或模型训练工具的创作者、开发者，以及准备通过 AIGC 内容或模型服务变现的从业者。

案例参考：https://www.spp.gov.cn/zdgz/202508/t20250826_704627.shtml

补充说明：本文根据授权视频约 6 分钟完整音频转写整理，并结合视频简介和默认首屏 3 条评论核对；内容用于风险提示，不构成针对具体事项的法律意见。