在AI技术快速普及的当下，AI生成的虚假信息已成为网络治理的重点难题。从伪造他人头像、语音造谣，到生成虚假新闻、仿冒官方通知，AI技术的“以假乱真”特性，让虚假信息传播更快、迷惑性更强，不仅侵害个人合法权益，更可能扰乱社会秩序、危害国家安全。今天，我们就来聊聊AI生成虚假信息的法律红线。
AI换脸造谣，构成诽谤罪
案情：2024年4月—2025年1月，王某甲利用AI深度合成技术，将被害人于某等人脸与色情图片拼接，伪造不雅照，捏造涉性虚假话题，在境外网站散布，并放任他人转发至于某工作群，造成被害人名誉严重受损、工作生活受扰。张家港市人民法院以诽谤罪判处王某甲有期徒刑一年三个月，苏州中院二审维持原判。
《中华人民共和国刑法》第二百四十六条：以暴力或者其他方法公然侮辱他人或者捏造事实诽谤他人，情节严重的，处三年以下有期徒刑、拘役、管制或者剥夺政治权利。
前款罪，告诉的才处理，但是严重危害社会秩序和国家利益的除外。
通过信息网络实施第一款规定的行为，被害人向人民法院告诉，但提供证据确有困难的，人民法院可以要求公安机关提供协助。
案情：2026年，阳某为博流量、吸粉，用AI剪辑软件制作“化工厂爆炸”“公园杀人抛尸”“珠宝店抢劫”等虚假惊悚视频，发布至网络，总浏览超21万次、转发1317次，引发当地民众恐慌、扰乱公共秩序。耒阳市人民法院以寻衅滋事罪判处阳某有期徒刑六个月。
《中华人民共和国刑法》第二百九十三条第一款第（四）项：在公共场所起哄闹事，造成公共场所秩序严重混乱的。纠集他人多次实施前款行为，严重破坏社会秩序的，处五年以上十年以下有期徒刑，可以并处罚金。
AI合成虚假灾情，构成编造虚假信息罪
案情：张某、陈某利用AI批量生成“工业园大火” 等虚假灾情视频20余条，在多平台传播，累计阅读量超167万次，严重扰乱社会秩序、引发公众恐慌。绍兴市上虞区人民法院以编造、故意传播虚假信息罪，分别判处二人有期徒刑一年一个月，缓刑一年六个月。
《中华人民共和国刑法》第二百九十一条之一第二款：编造虚假的险情、疫情、灾情、警情，在信息网络或者其他媒体上传播，或者明知是上述虚假信息，故意在信息网络或者其他媒体上传播，严重扰乱社会秩序的，处三年以下有期徒刑、拘役或者管制；造成严重后果的，处三年以上七年以下有期徒刑。
AI伪造涉政内容，危害国家安全
案情：境外势力利用AI伪造我国公务人员不当音视频、虚假政策文件，在境内外网络传播，抹黑国家形象、煽动对立，企图危害国家安全。相关涉案人员因涉嫌危害国家安全类犯罪，被依法追究刑事责任。
《中华人民共和国国家安全法》第十五条：国家防范、制止和依法惩治任何叛国、分裂国家、煽动叛乱、颠覆或者煽动颠覆人民民主专政政权的行为；防范、制止和依法惩治窃取、泄露国家秘密等危害国家安全的行为；防范、制止和依法惩治境外势力的渗透、破坏、颠覆、分裂活动。
《互联网信息服务深度合成管理规定》第六条：任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。
检察机关提醒广大群众，面对AI生成虚假信息，务必做到“不制作、不传播、善维权”。
不使用AI工具伪造他人身份、生成虚假信息，不转发来源不明、疑似AI生成的内容，避免因 “跟风转发”触犯法律。
关注官方渠道信息，对AI生成的音视频、图片，可通过官方平台核验真伪，不盲目轻信、传播未经证实的内容。
若遭遇AI造谣，第一时间截图、录屏保存虚假内容、传播链接、发布账号信息等证据，及时向公安机关报案或向法院提起诉讼，通过法律途径维护自身名誉权、肖像权。
网络空间不是法外之地，AI技术更不能成为违法犯罪的“挡箭牌”。让我们共同遵守法律规定，自觉抵制AI虚假信息，守护清朗网络环境，筑牢个人权益与社会安全的双重防线。
