近日,有媒体报道一些不法分子通过AI技术生成几百到上千字的文本,再配上貌似和此文本具有相关性的虚假图片,从而形成一段看起来信息量很大,但实际上子虚乌有的谣言,严重扰乱社会秩序。

AI谣言”有何特点?其一,成本更低。仅仅动动手指键入“关键词”,便可瞬间生成内容猎奇、形式新颖、传播较广的虚假新闻。如,被媒体曝光的某MCN机构在最高峰一天能生成4000至7000条谣言。其二,收益更高。有的网络平台会向流量高的内容和用户支付报酬,这在某种程度上会刺激一些不法分子利用AI技术批量生产谣言。上述MCN机构最高的一条谣言收入有700元,初步估算其每天的收入在1万元以上。其三,更具迷惑性。AI技术生成的文本兼具新闻风格,生成的图片更是精美和高清,颠覆了“有图有真相”的常规认知,不免让人萌生“真假难辨”之感。

作为一种新型谣言传播趋势与犯罪手段,AI谣言的危害亦不容小觑。比如,有报告显示,近两年AI谣言中,涉经济与企业类谣言占比最高,达到43.71%。而近一年来,上述AI谣言的增速更是高达99.91%。长此以往,企业和企业家的形象声誉势必将被严重扭曲,民营经济的发展环境也会遭受重创。再比如,涉及公共秩序、食品安全、民生领域等方面的AI谣言,极易引起公众恐慌,引发社会信任危机。

技术是中性的,但一切技术的使用过程都承载着人们的价值观。AI技术被应用于批量生产谣言,受苛责的不应该是技术本身,而应是背后的“黑手”,即那些受“流量经济”刺激的别有用心者。去年12月以来,全国公安机关累计排查网络谣言线索8万余条,侦办网络谣言类案件1万余起,抓获犯罪嫌疑人1500余名,行政处罚10700余人,开展公开辟谣等4200余次。2024年是打击整治网络谣言专项行动年,以雷霆手段整治那些既无法律观念也无道德底线的不法分子,正逢其时,至关重要。

阻击谣言注定是一项复杂的工作,需要各方携手合作、形成合力。一方面,平台在刺激创作的同时,也应尽到消除虚假信息传播的责任,通过更严格的信息过滤、账号处理等,让流量生意无利可图。另一方面,相关治理手段也要迭代更新,通过利用技术识别伪造内容,让识别谣言的精准度更高、阻击速度更快、打击力度更强,斩断造谣背后的黑灰产业链。此外,广大网民也要严格遵守相关法律法规,自觉规范个人网上言行,不断提升识别防范抵制网络谣言能力。