内容持续更新中
Zoom正准备为用户带来一项令人惊叹的新功能，但我们可能要等到明年才能一睹其真容。这家视频会议巨头在其年度开发者大会上宣布，他们将推出一项能够将用户视频转化为AI驱动的逼真数字化身的功能。 这个数字化…
近日，美国联邦通信委员会（FCC）宣布，一家名为 Lingo Telecom 的电信公司因传播一通伪造的乔・拜登总统语音机器人电话而同意支付100万美元的罚款。这通电话在今年1月通过 Lingo 公司…
最近，韩国的深度伪造犯罪问题引起了社会的广泛关注，甚至“韩国 换脸”关键词在微博上登上热搜榜单第一。 据环球时报援引韩国《朝鲜日报》报道，韩国总统尹锡悦在27日表示，深度伪造技术的影像正在通过社交媒体…
随着2024年美国总统大选的临近，我们已经步入了一个全新的时代 —— 生成式人工智能（AI）已经开始在选举舞台上显露头角。试想一下，选民们的投票决定可能会受到 AI 生成的图片、视频和音频的影响，这可…
随着人工智能技术的不断进步，伪造图像和视频的难度越来越低，深度伪造（deepfake）现象愈发严重，如何识别这些虚假内容成了一个亟待解决的问题。近期，宾汉姆顿大学的研究团队对此进行了深入探讨，他们利用…
在当今，深度伪造和合成媒体由于生成式人工智能（gen AI）的发展而愈加普遍。为了应对这一挑战，许多组织正在努力完善数字水印技术，以便追踪内容的来源。 尽管目前还没有一个组织完全成功，但 “内容来源和…
最近，美国的一些大型人工智能公司再次向白宫做出了庄重的承诺，表示将会阻止他们的 AI 产品被用于生成非自愿的深度伪造色情内容以及儿童性虐待材料。 包括 Adobe、Anthropic、Cohere、微…
近日，加州州长加文·纽瑟姆签署了八项法律，针对人工智能领域的挑战。这些法律旨在解决人工智能系统带来的生存风险、人工智能图像生成器的深度伪造裸照、好莱坞工作室为已故演员制作人工智能克隆体等问题。 其中，…
AI技术如同一把双刃剑，既能带来便利，也可能造成风险。为了更好地管理这些风险，加州州长加文·纽森（Gavin Newsome）近期签署了九项法案，专门针对AI生成内容，尤其是深度伪造(deepfake…
最近，旧山市副市长律师 Yvonne Meré 发起了一场针对16个网站的诉讼，这些网站利用人工智能技术制造深度伪造色情内容，未经女性和女孩的同意就将她们的照片处理成裸体。这一前所未有的法律行动，旨在…
在2024年美国总统选举后，网络上的虚假信息惊人的速度传播严重影响了美国人对候选人以及公共健康、气候变化和移民话题的看法。生成式人工智能的发展，加之其生成深度伪造内容的能力和 “幻觉” 事实的倾向，可…
随着生成式人工智能的商业化，网上虚假内容的数量急剧增加。根据身份验证平台Sumsub的数据显示，从2023年到2024年，全球深度伪造的数量增长了四倍。2024年，深度伪造占所有欺诈行为的7%，涉及从…
随着深度伪造技术的普及，网络上虚假内容的数量激增。据 ID 验证平台 Sumsub 的数据，从2023到2024年，深度伪造的数量增长了四倍，2024年深度伪造内容占所有欺诈的7%。这其中包括身份冒充…
近日，一段视频在网络上引起了广泛关注，视频中出现了一个模仿张文宏的账号在直播带货，出售一种蛋白棒。 许多网友对此产生疑问，“张文宏是不是在带货?” 更令人担忧的是，部分年长观众对这一视频深信不疑，甚至…
随着人工智能技术的迅猛发展，深度伪造内容逐渐引发了社会的广泛关注。为了应对这一新兴问题，加州于新年伊始出台了一系列新的法律法规，旨在加强对人工智能生成的深度伪造内容的监管。这些法律将影响社交媒体平台、…
西班牙政府近期通过了一项新法案，旨在对未正确标注的人工智能（AI）生成内容的公司处以高额罚款，以打击 “深度伪造” 现象。 数字化转型部长奥斯卡・洛佩斯（Oscar Lopez）在新闻发布会上表示，此…
近日，英国互联网观察基金会（IWF）发布了一项令人不安的报告，揭示了人工智能生成的儿童性虐待内容(CSAM)在网络上的激增。随着 AI 技术的普及，现在几乎任何人只需拥有一台电脑和一点技术知识，就能生…
最近，微软在其Ignite大会上宣布了一个新的AI工具，名为Azure AI Speech，可以生成新的头像和声音，或者复制用户的现有外观和语音。这项技术使用人类图像进行训练，并允许用户输入脚本，由A…
FBI专家警告，青少年正在利用人工智能技术生成深度伪造裸照，对同学进行恶意攻击，令家庭感到尴尬和害怕。这一技术不再仅限于名人和社交影响者，而是被中学生和青少年用来欺凌其他孩子。FBI敦促公众在社交媒体…
社交平台推出生成AI新功能出现的各类问题。Meta和Snapchat推出的新AI功能已经出现深度伪造和儿童隐私数据风险。美国联邦交易委员会召开会议探讨版权等问题,监管机构正在关注生成AI对行业和消费者…
随着人工智能技术的快速发展,生成和辨别深度伪造内容的能力将成为一个重大的社会挑战。最新研究指出,当前广泛使用的数字水印技术很容易被绕过,未来防止AI深度伪造的难度依然很大。研究团队成功证明了现有水印保…
深度伪造技术不仅用于政治攻击，还广泛用于性内容，影响数千名妇女。纪录片《Another Body》揭示了受害者的创伤，包括Twitch主播Gibi和学生Taylor。该纪录片警示深度伪造技术的威胁，呼…
德国相机制造商Leica最近发布了一款新的M11-P相机，配备了验证技术，以确保相机拍摄的照片没有经过人工智能生成。该相机采用水印技术为每张照片添加特殊元数据，以验证文件的真实性并记录未来的更改。这一…
哥伦比亚广播公司宣布成立CBS新闻确认部门，以应对AI深度伪造和虚假信息。该部门的领导由CBS新闻和电视台的高级副总裁克劳迪娅·米尔恩和罗斯·达根负责。为了更好地辨别虚假信息，CBS计划雇佣专业人才、…
随着对人工智能助长虚假信息传播的担忧增加，微软积极推出数字水印工具，Content Credentials as a Service将于明年春季首次面向政治运动提供。此举旨在防范深度伪造，同时微软还加…
根据 2023 年的深度伪造状况报告，绝大多数在线深度伪造视频为色情内容，其中数量较 2019 年增长 550%。深度伪造色情内容占据了网上发现的所有深度伪造视频的 98%，而受害者中 99% 是女性…
专家呼吁开发深度伪造检测工具时应考虑深色肤色群体，避免偏见。目前大多数深度伪造检测器都基于依赖于训练数据集的学习策略，但这些方法并不总是适用于深色肤色的人群。担心偏见会导致少数群体承受更多欺诈、诈骗和…
