信息的造假=无意义的社会
大家可能都见过deepfake（AI换脸）的新技术，而在过去三个月里，有一些技术推出来，可以仅仅听3秒钟左右的人类语音，然后就能继续用他们的声音说话。
例如,它会从真实的（人类声音）开始，然后在那条虚线上，它会切换到计算机自动完成声音，你无法分辨（出计算机合成的声音）。
所以我们如何期待这些技术的应用开始在世界各地冒出来呢?
你可以想象有人打电话给你的孩子，获得一点他们的声音，只是“哦，对不起,我拨错号码了。”，然后使用你孩子的声音给你打电话，说“嘿，妈妈,爸爸,忘了我的社会安全号码，我正在申请一份工作,你介意提醒我吗?”
事实上,当我们写这篇文章时，我们就在想这个概念上的例子，结果上周发现, 其他人也想出来了。
AI技术开始诈骗人。任何依赖于那种验证模型的方式都不再可用， 就像我们社会上有锁住所有门的各种锁，而我们刚刚解锁了所有这些锁一样。
人们知道深度修复（deepfake）和人工媒体，但他们不知道的是，现在只需要3秒的你的声音,就可以合成剩下的全部声音了。AI又一次做到了，而且做得越来越好。
我实际上不害怕这个例子，但AI将以指数曲线的速度继续发展下去。
这些技术和例子就是其中的一部分。我们先不讲解决什么问题，只是想类似韦恩·格雷茨基那样滑雪滑到我们需要到达的地方谈及指数曲线。我们现在需要滑得更远，比各位想象的地方远得多。
要明确地说出来,一年所有的内容验证都会破产,根本行不通。而我们的机构还没有准备好，大家没有想到这一点，还无法对此作出反应。
所以我们试着举了个身份证例子，我不知道你们是否看过最新的TikTok滤镜，它们太疯狂了，我无法相信这是一个滤镜（见图，一个超级强大的换脸滤镜的case）。事实上,这就是AI滤镜进化的结果：
你们都知道,拜登政府，一直在讨论我们是否应该让TikTok继续在美国运行。
有一项交易是确保数据存储在美国，比如存储在一些安全的得克萨斯州甲骨文服务器上。
但如果想搞乱美国，现在我要做的就是向每一个人发一些拜登和特朗普的滤镜，给你一个拜登的声音或特朗普的声音，现在就已经把你们所有的公民变成了《玛丽莲梦里人》中的人物，成了最愤怒的拜登和特朗普……
这些是信息愤怒的军队，整天在喧嚣中说话，这将让社会成为无意义的社会，而这与数据存储位置无关，也与算法重新排列哪些视频无关，而是与我们如何启用一种与虚妄的数学对抗有关。
（编者注：这只是一种设想，延续自演讲者的《社交困境》思考，并不等于tikok有任何可能这样做）
这都不违法，我们的责任是deepfake相关的新的责任，目前我们没有针对这些事情的法律。
打赏微海报分享