ChatGPT等生成式AI的文本能力甚至可以超越很多普通人。然而，这也引发了一些人对于利用这类工具编造谣言的担忧。最近，甘肃警方侦破了首例利用人工智能技术制造虚假信息的案件。

根据官方通报，4月25日，平凉市公安局崆峒分局网安大队在日常网络巡查中发现，某百度账号出现一篇标题为“今晨甘肃一火车撞上修路工人 致9人死亡”的文章，初步判断为信息虚假不实。

在随后的调查中发现共计21个百度账号均在同一时间段发布该文章，文章内容地点除平凉市崆峒区外还涉及兰州、陇南、定西、庆阳等地，文章点击量已达1.5万余次。

经查，涉案百度账号均为广东深圳某自媒体公司所有，公司法人代表洪某弟有重大作案嫌疑。原来，洪某弟购买大量“百家号”，并通过 ChatGPT 人工智能软件将搜集到的热点新闻修改编辑，随后上传赚取大量流量获利。

洪某弟利用现代科技手段编造虚假信息，并散布在互联网上，被大量传播浏览，其行为已涉嫌寻衅滋事罪。目前，洪某弟已被采取刑事强制措施案件正进一步侦办中。