近年来,某些MCN机构利用人工智能程序生成大量虚假新闻,导致网络上充斥着大量不实信息,形成了病毒式的传播。同时,某些小说平台也依赖AI进行“创作”,每日推出数本电子书,但内容逻辑不通、辞藻空洞。甚至医学论文也因使用AI生成的虚假配图而被撤稿。如今,AI生成、伪造或篡改文本、图片、音频和视频的现象越来越普遍,产生了大量的“信息垃圾”,引发了关于“AI污染”的讨论。
去年以来,生成式人工智能在全球掀起热潮,其颠覆性应用让许多行业和网民受益。然而,正如硬币有两面,其带来的负面问题也逐渐显现。清华大学的一份研究报告显示,近一年来经济与企业类AI谣言量增速惊人。一些专家认为,AI制造的“信息垃圾”产量庞大,辨别难度较大,筛选成本高昂。
“AI污染”带来的危害显而易见。首先,它会让网民陷入认知幻觉,可能引发公众认知困惑,扭曲对现实和科学的理解。对于伴随互联网成长的年轻一代,其影响更是不堪设想。此外,“AI污染”还可能反噬AI产业的发展,虚假内容若成为训练新数据,将导致AI输出质量下降。更严重的是,“AI污染”涉及法律、伦理、社会稳定等诸多问题,可能侵犯知识产权、泄露身份信息,扰乱社会舆论,加大社会治理难度。
因此,整治互联网“AI污染”势在必行。中国互联网信息中心的数据表明,我国网民规模庞大,年轻一代已成为网络“原住民”,打造清朗的网络空间是保障每个网民美好生活的必要行动。为应对“AI污染”,首先应加大对AI学习和生成机制的源头治理,完善内容生成规则,强制打上显著标识。其次,加强对AI生成内容的筛查监管,开发审查算法规范传播途径。最后,提高用户对AI生成内容的辨别能力,增强防范意识和识别能力。
网络空间不是垃圾场,整治“AI污染”需要各部门同抓共管和全社会共同参与。只有这样,我们才能拥有一个清朗安全的网络家园。
发评论,每天都得现金奖励!超多礼品等你来拿
登录 在评论区留言并审核通过后,即可获得现金奖励,奖励规则可见: 查看奖励规则