2023年12月21日，某短视频平台上，一条短视频引发了很多西安市民的关注。视频里，流经当地的一条河流潭峪河上，冒出一阵阵白色的热气，有市民担心是不是市政的热水管道出现了泄漏。

　　

　　西安市公安局鄠邑分局网安大队副大队长 张羽林：因为发这条视频的时候是在甘肃地震后，有很多网友留言说会不会跟甘肃的地震有关系。

　　

　　由于涉及市政管道，当地多个部门很快介入调查，然而查来查去，这个视频里提到的内容，跟地震和水管破裂都没有关系。

　　

　　西安市公安局鄠邑分局网安大队副大队长 张羽林：经过调查，这是长安新区热力公司的一条热力管道。经过潭峪河，热力管道的工作人员也进行了现场调查，管道也没有破裂，也没有出现热水外泄的情况。

　　

　　西安市公安局鄠邑分局网安大队民警 刘通：因为这条管道在河道上，在冬天的时候管道过热，在河面上产生的水蒸气。

　　

　　根据调查核实的结果，当地很快发布了官方消息。然而令人奇怪的是，在此之后，网络平台上仍然有一些自媒体账号在不断散播西安市鄠邑区管道破裂的消息，而且帖文里还言之凿凿相关部门正在对事故原因展开深入调查。警方调查发现，有的帖文配发的图片甚至都不在陕西省。

　　

　　西安市公安局鄠邑分局网安大队副大队长 张羽林：这张配图是经过我们调查是2011年的5月份，商丘网当时发布的管道破裂的一张图片。

　　

　　然而，就是这样一个拼凑的不实帖文，在很多自媒体账号上被大量转发，并引起了很多网友的恐慌。

　　

　　西安市公安局鄠邑分局网安大队副大队长 张羽林：在发现帖文之后的几个小时里，我们陆续发现了很多同质的不同类型的不同描述的一些帖文，这些帖文总阅读量已经达到20多万了。

　　

　　雷同谣言猛然出现 背后竟是AI“洗稿”

　　

　　一条自媒体发布的不实信息，为什么经过官方辟谣后谣言还在大量传播，甚至愈演愈烈，这背后到底是怎么回事？不查不知道，原来，在这些散布不实消息的自媒体账号背后，竟然隐藏一条依靠AI人工智能洗稿并且未经审核、肆意发布的产业链。

　　

　　根据警方的调查，最早发布不实消息的，有一个名叫“可爱的牛牛往上冲”的自媒体账号。而这个账号的实际操作人，是四川绵阳的王某。于是，办案民警赶到绵阳，对王某进行了传唤。

　　

　　西安市公安局鄠邑分局网安大队副大队长 张羽林：在我们调查的过程中发现，王某加入了一个微信群，微信群里面像王某这种类型的群众还比较多。他们微信群的群主，每天定时会推送一些文章到群成员自媒体账号的草稿箱里面。

　　

　　据王某交代，微信群里的成员收到这些文章后，还需要在草稿箱里点击发送，这样就可以把文章发布到各自的自媒体账号上，而发布者会根据阅读量和转发量来获取收益。

　　

　　西安市公安局鄠邑分局网安大队副大队长 张羽林：用户获取收益之后，会把收益五五分成，把一半的收益分给建群的群主，也就是供稿人。

　　

　　警方很快查明，王某所在的微信群群主是柳某，而据柳某交代，跟他一起发布文章的还有他的同学唐某，而且他们发布的文章也都不是自己写的，而是来自AI自动生成。

　　

　　西安市公安局鄠邑分局网安大队副大队长 张羽林：这位姓唐的同学给柳某推荐了一款叫“翠绿笔墨”的写稿软件，然后柳某跟着唐某一块注册“翠绿笔墨”的写稿软件，用软件每天写很多帖文发送到群里面。

　　

　　涉案软件每天自动生成19万篇文章

　　

　　在自媒体账号上发布文章博流量，竟然还用到了专门的写稿软件。涉案的这款“翠绿笔墨”软件一天就能生成19万篇文章，7天能达到上百万篇。它是如何运作的？又是怎么流向网络的呢？

　　

　　据警方了解，这款名为“翠绿笔墨”的软件，是一个名叫黄某的男子开发的。用户需要从一家专门售卖新闻稿件的网络平台上，购买大量的真实新闻稿件，形成稿池。接下来，注册用户就可以根据各自的需求，自动生成一篇篇的文稿。

　　

　　西安市公安局鄠邑分局网安大队副大队长 张羽林：这个软件生成文章的特点就是它会从大量的从平台购买的社会热点新闻里，根据用户的需求抓取热点比较高的文章，然后用AI软件把这些文章进行拼凑、前后段落颠倒、同义词替换，产生一篇同质的反映同一件事情的不同类型的文章。

　　

　　为了规避监管，不引发风险，这款软件在抓取社会热点文章时，还专门设计了关键词筛选的功能。

　　

　　西安市公安局鄠邑分局网安大队副大队长 张羽林：这个文章会规避一些涉政、涉案件、涉暴恐的文章。

　　

　　据民警介绍，从2023年10月黄某开发“翠绿笔墨”软件之后，在三个月时间内，获利24000多元。虽然他个人获利不多，但是每天由这款软件自动生成的文章却数目惊人。

　　

　　西安市公安局鄠邑分局网安大队副大队长 张羽林：我们发现，每天产生的文章大概在19万篇左右，然后我们提取了7天这个软件里面保存的文章，大概在100多万（篇）。涉及时事新闻、社会热点、社会生活方面的事情，他不会去核实，他（也）没有办法去核实这些事情。

　　

　　那么，这100多万篇由软件自动生成的文稿最终都去了哪里呢？警方调查发现，这款软件的注册用户虽然还不是很多，但是借助自媒体平台，这些稿件传播的范围和产生的影响令人担忧。

　　

　　西安市公安局鄠邑分局网安大队副大队长 张羽林：使用（翠绿笔墨）软件的用户169个，软件录入的自媒体账号6000多个，就表示这个软件现在有169个人在使用，每天产生的文章有6000多个账号在发布，但是发布的这些文章都不是原创，全部是拼凑过的。

　　

　　平台应要求自媒体做到3个“必须”

　　

　　目前，本案涉及的账号已被平台查封，有关软件和服务器也被关闭，警方还在对案件深挖。在这次“整治‘自媒体’无底线博流量”专项行动中，也强调了平台责任。平台应要求“自媒体”发布涉国内外时事、公共政策、社会事件等相关信息时，必须准确标注信息来源；使用AI等技术生成信息的，必须明确标注系技术生成；发布含有虚构、演绎等内容的，必须明确加注虚构标签。同时，平台要在显著位置展示“自媒体”标注的信息来源或标签。那么，如果自媒体违反相关规定，将承担哪些法律责任呢？

　　

　　中国社会科学院大学互联网法治研究中心主任 刘晓春：自媒体相对于传统媒体而言，没有专门的准入要求，个人、公司都可以通过以社交媒体为主要载体的账号公开发布内容，因此在传播效果上具有比较明显的媒体属性，但是没有传统媒体的严格审核规范和流程。所以在丰富网络内容生态的同时，的确也带来了很多内容失范的乱象。 自媒体造谣造假，构成对于他人名誉侵害的，需要承担侵权责任，严重的构成诽谤罪，还需要承担刑事责任。如果不涉及对于个人权利的侵害，编造、传播谣言造成损害扰乱社会公共秩序和市场秩序的，可以进行行政处罚，严重的也会构成犯罪，需要承担刑事责任。封号是从平台治理角度出发进行的比较快捷、直接的切断谣言传播源头或者节点的处置方式，还是需要采取更加有效的事前和事中防范措施，比如账号注册核验、动态巡查、重点环节重点防控措施等，达到防患于未然的目标。

　　

　　中国政法大学传播法研究中心副主任 朱巍：传统媒体对一些新闻包括信源的审核力度是比较大的，核实义务是保证真实性的一个必要的条件。但是你会发现，AI“洗稿”过程中，几乎没互相的核实义务，有一些常识性的错误，作为一个理性人，一眼都能看得到的。为什么传播这么广？就是因为很多的受众更喜欢猎奇，更希望这件事情可能会存在，所谓的1%的真实性，所以有了这种猎奇就变成了流量的加持。（记者 张李彬 阮超 何洁 何涛）