严惩AI造谣净化网络生态

发布时间: 2024-04-19 来源:经济日报

  近日,公安部公布近期打击整治网络谣言10起典型案例,其中4起涉及使用人工智能工具生成和传播谣言。这些涉“AI造谣”案件中,“广州限制外卖配送”谣言案尤为典型。

  2023年12月19日,有网民在今日头条平台发布“广州即将成为全国首个限制外卖配送的城市”,迅速引发关注形成网络热搜。经查,四川德阳网民杨某组织招揽广东江门网民叶某英等多名兼职人员,使用人工智能工具批量生成不实文章引流牟利。最终,涉案6人被采取刑事强制措施。其余3起案件中,涉案人均被处以行政处罚。这些案件显示,伴随AI技术的迅猛发展,“AI造谣”的情况日益增多,对此进行治理已经刻不容缓。

  在自媒体时代,一些自媒体从业人员为了攫取利润盲目追逐流量,当流量诱惑达到一定程度时,他们不惜冒各种风险甚至违法犯罪,其中最普遍的一种就是网络造假传谣。而AI技术在近两年发展很快,大大降低了使用门槛,同时因为其更“善解人意”“以假乱真”,很快被派上了用场。

  技术是中性的,本身并不能分辨善恶。一种新技术出现既可以为善,也可以助恶。一旦某种技术可能用于为恶,最终就会有人这么做,这也符合“墨菲定律”。当无底线追逐流量的自媒体盯上新兴的AI技术,结果便是为追逐流量造假变得更容易,造假效果更强,造成的损失也更大。

  “广州限制外卖配送”就属于此种情况。当造谣者为吸引眼球编造谣言,几乎无需成本,使用人工智能工具就可以批量生成不实文章引流牟利,这种几乎没有成本的谣言造成的后果,可能对一个巨大体量的行业造成冲击,让这个行业上下游所涉及的人都会受到直接或间接的影响。

  当前,作为一种新型谣言传播方式与犯罪手段,“AI造谣”扰乱了舆论秩序,也危害经济和社会平稳运行。不过,现阶段治理“AI造谣”也存在不少司法层面和社会治理层面的难点、堵点,其中较为突出的是“AI造谣”的“定性难”“入罪难”问题。相较于之前的网络谣言违法行为,“AI造谣”成本低、门槛低、传播广、获利小、破坏大,对正常经济和社会秩序有较强的危害性,但目前“多为行政处罚、刑事处罚较少”的治理力度,客观上难以形成有力震慑,进而纵容相关“黑灰产”野蛮扩张。

  针对这一局面,相关部门已经有所回应。2023年9月,最高人民法院、最高人民检察院、公安部联合发布的《关于依法惩治网络暴力违法犯罪的指导意见》指出,对实施网络暴力违法犯罪者利用“深度合成”等生成式人工智能技术发布违法信息,将依法从重处罚。此次广东警方对“广州限制外卖配送”谣言案中涉案人采取刑事强制措施,也体现了对“AI造谣”的坚决整治态度,或将成为打击治理“AI造谣”的样板案例。 (作者:贾安平 来源:经济日报)

首页 > 要闻

严惩AI造谣净化网络生态

发布时间:2024-04-19来源:经济日报

  近日,公安部公布近期打击整治网络谣言10起典型案例,其中4起涉及使用人工智能工具生成和传播谣言。这些涉“AI造谣”案件中,“广州限制外卖配送”谣言案尤为典型。

  2023年12月19日,有网民在今日头条平台发布“广州即将成为全国首个限制外卖配送的城市”,迅速引发关注形成网络热搜。经查,四川德阳网民杨某组织招揽广东江门网民叶某英等多名兼职人员,使用人工智能工具批量生成不实文章引流牟利。最终,涉案6人被采取刑事强制措施。其余3起案件中,涉案人均被处以行政处罚。这些案件显示,伴随AI技术的迅猛发展,“AI造谣”的情况日益增多,对此进行治理已经刻不容缓。

  在自媒体时代,一些自媒体从业人员为了攫取利润盲目追逐流量,当流量诱惑达到一定程度时,他们不惜冒各种风险甚至违法犯罪,其中最普遍的一种就是网络造假传谣。而AI技术在近两年发展很快,大大降低了使用门槛,同时因为其更“善解人意”“以假乱真”,很快被派上了用场。

  技术是中性的,本身并不能分辨善恶。一种新技术出现既可以为善,也可以助恶。一旦某种技术可能用于为恶,最终就会有人这么做,这也符合“墨菲定律”。当无底线追逐流量的自媒体盯上新兴的AI技术,结果便是为追逐流量造假变得更容易,造假效果更强,造成的损失也更大。

  “广州限制外卖配送”就属于此种情况。当造谣者为吸引眼球编造谣言,几乎无需成本,使用人工智能工具就可以批量生成不实文章引流牟利,这种几乎没有成本的谣言造成的后果,可能对一个巨大体量的行业造成冲击,让这个行业上下游所涉及的人都会受到直接或间接的影响。

  当前,作为一种新型谣言传播方式与犯罪手段,“AI造谣”扰乱了舆论秩序,也危害经济和社会平稳运行。不过,现阶段治理“AI造谣”也存在不少司法层面和社会治理层面的难点、堵点,其中较为突出的是“AI造谣”的“定性难”“入罪难”问题。相较于之前的网络谣言违法行为,“AI造谣”成本低、门槛低、传播广、获利小、破坏大,对正常经济和社会秩序有较强的危害性,但目前“多为行政处罚、刑事处罚较少”的治理力度,客观上难以形成有力震慑,进而纵容相关“黑灰产”野蛮扩张。

  针对这一局面,相关部门已经有所回应。2023年9月,最高人民法院、最高人民检察院、公安部联合发布的《关于依法惩治网络暴力违法犯罪的指导意见》指出,对实施网络暴力违法犯罪者利用“深度合成”等生成式人工智能技术发布违法信息,将依法从重处罚。此次广东警方对“广州限制外卖配送”谣言案中涉案人采取刑事强制措施,也体现了对“AI造谣”的坚决整治态度,或将成为打击治理“AI造谣”的样板案例。 (作者:贾安平 来源:经济日报)