ChatGPT生成式AI的文本能力甚至可以超越很多普通人。然而,这也引发了一些人对于利用这类工具编造谣言的担忧。最近,甘肃警方侦破了首例利用人工智能技术制造虚假信息的案件。

根据官方通报,4月25日,平凉市公安局崆峒分局网安大队在日常网络巡查中发现,某百度账号出现一篇标题为“今晨甘肃一火车撞上修路工人 致9人死亡”的文章,初步判断为信息虚假不实。

男子用ChatGPT编造虚假新闻获取利益而被警方采取刑事强制措施

在随后的调查中发现共计21个百度账号均在同一时间段发布该文章,文章内容地点除平凉市崆峒区外还涉及兰州、陇南、定西、庆阳等地,文章点击量已达1.5万余次。

经查,涉案百度账号均为广东深圳某自媒体公司所有,公司法人代表洪某弟有重大作案嫌疑。原来,洪某弟购买大量“百家号”,并通过 ChatGPT 人工智能软件将搜集到的热点新闻修改编辑,随后上传赚取大量流量获利。

洪某弟利用现代科技手段编造虚假信息,并散布在互联网上,被大量传播浏览,其行为已涉嫌寻衅滋事罪。目前,洪某弟已被采取刑事强制措施案件正进一步侦办中。