近期，多条AI生成的视频在网络传播，其中包括“南岸立交垮塌”“涪陵灌溪沟农贸市场对面房屋倒塌”等虚假内容，一度引发部分市民恐慌。这些视频究竟是如何炮制的？真相到底是什么？跟着央视新闻频道《法治在线》一探究竟。

编造“南岸立交垮塌”谣言

网民被行政拘留

3月9日上午10点半，一段在短视频平台发布的视频信息引起了重庆市南岸区委网信办工作人员的注意。

视频是一段立交桥倒塌的画面，这段视频上线约12个小时，点赞量5700余个，转发1100余次，留言1100余条。由于立交桥指示牌写着“南岸”两字，让大量网友将这段视频事发地与重庆南岸区联系到一起。

重庆市南岸区委网信办网络综合治理与执法监督科副科长余宛蔓：

经我们核实，南岸区并没有命名为“南岸立交”的立交桥，所以，我们初步认定，这个视频是不实的。

随着深入调查，最终确定该视频是AI生成的虚假消息。

重庆市南岸区网络安全综合治理中心主任简伟晋：

经过调查，该视频的发布者是通过AI生成的内容，而且账号上有很多AI生成视频，涉及打架斗殴、安全事故等信息，视频发布者对自己造谣和传谣的事实供认不讳。

这个案例有一个值得注意的地方，发布者在发布这段视频时打上了作者声明“内容由AI生成”，却依然被警方依法作出行政拘留6日的处罚。既然作者注明了这段视频是由AI生成的，是否可以理解为这段视频并非真实存在呢？为何还要对他进行行政处罚呢？

重庆市互联网违法和不良信息举报中心处置科科长谭婧伶：

首先，根据《中华人民共和国治安管理处罚法》的相关规定，网民不得故意散布谣言，谎报险情，扰乱公共秩序。

其次，标注AI生成不等于免责，这只是内容标识的合规要求，绝不是造谣传谣的免责条款。

《生成式人工智能服务管理暂行办法》明确规定，使用AI也不能生成传播虚假有害信息，不能以此来抵消编造谣言的法律责任。

标注AI生成绝不能成为挡箭牌，编造虚假信息最终都会面临处罚。

编造“农贸市场对面房子倒塌”谣言

网民被批评教育

重庆涪陵区网民蒋某在短视频平台发布了一段视频，标题为“涪陵灌溪沟农贸市场对面房子倒塌”。

重庆市涪陵区互联网信息办公室副主任唐超：

我们发现这条信息以后，立即通过电话与区应急局联系，确认这件事情是否属实，得到的反馈是涪陵区灌溪沟农贸市场周边没有发生房屋倒塌的事件，我们判断这条信息属于谣言信息。

经调查，网民蒋某利用AI工具生成房屋倒塌视频，在网上发布了不实信息。考虑到他主动删除了视频和在线时间短，且未造成重大网络影响，警方对蒋某进行了批评教育。

《生成式人工智能服务管理暂行办法》规定，提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，不得生成虚假、有害信息等法律、行政法规禁止的内容。