风险点5. 自我喂养的机器 = 人类无法追赶的爆发式增长
与此同时，我们刚刚跨过一个非常重要的阈值，这就是，这些大语言AI现在可以使自己变得更强大。
之前有个问题是,如果你的大语言模型用完数据，你该如何喂养（训练）它?
这有一篇4个月前刚出来的论文：好吧，我有一个可以生成语言的模型，为什么不用模型生成更多语言进行训练呢?
之前这并不奏效，但4个月前，这组研究人员解决了这个问题。AI吐出大量数据,查看数据，找出实际使其变得更好的数据，然后使用这些数据进行训练。然后它可以递归自动进行。
所以,它有一个测试，可以测试在准确性评分方面的表现，然后它开始为自己生成训练数据，然后它会发现哪种为自己生成的训练数据实际使自己在这种测试中表现得更好。
所以AI能够为自己创建训练训练数据，从而使自己在目标测试中越来越好。
到目前为止，我们谈论的一切都处于指数曲线上，而这一切真正开始上线时，将让我们进入双指数曲线。
解释一下，这也和AI如何把能力用于自身的代码改进上有关。
非常相似的情况，一个模型使用提交的代码数据进行训练，从而使得写代码变快和更高效。这一点还没有完全应用于AI自身。
在这项特定的工作中,3周前的一个数据，它使25%的代码加速了2.5倍，这是AI使自己变强的另一部分，使自己变快的一部分。
（演讲里播放了一个开花怪物要求喂养自己的肥皂剧片段）
这个剧里的人应该意识到，他应该只使用ai来喂养自己，更高效。
所以这是一个例子，这也涉及到这些模型的组合属性。
OpenAI几个月前发布了一个称为whisper的东西，可以做最先进的实时字幕，这只是语音到文本的转换。之前没有一个很好的ai系统来做语音到文本的转换。
OpenAI为什么要这样做? 恩是的，如果您的数据不足，您已经爬过了整个互联网的数据，如何获得更多的文本数据呢?
哦,知道了，还有YouTube,播客和广播，如果可以把所有的东西（声音内容，视频内容）转化为文本数据，我就会有更大的训练集。
所以这正是OpenAI所做的，所有这些都转化为更多的数据，更多的数据会使这些事物变得更强大。
我们又回到了一个双指数级的时刻，这一切都正确地落实了。
核武器不会制造更强大的核武器，但人工智能会产生更强大的人工智能。
这就像一场武器竞赛，而且会加强每一场其他武器竞赛。其他任何武器竞赛，比如制造生物武器，或制造恐怖主义或制造DNA武器的东西，运用人工智能将会做更好的能力来做所有这些事情,所以这是一种指数级的指数级。
如果我们要把这个转化为一个童话故事，我们将不得不更新所有的儿童书籍：
给一个人一条鱼，你可以养活他一天；
教一个人钓鱼,你可以养活他一生；
但教AI钓鱼,它会教自己生物学,化学，海洋学,进化论，然后钓死所有鱼。
这些指数级增长得有多快真的很难掌握，我们无法避免这种情况。
事实上,即使是人工智能专家，他们最熟悉指数曲线，但对AI进步的预测仍然不理想。
这里有一个例子，在2021年，一群非常熟悉行业指数的专家被要求进行一系列预测，有3万美元的奖金给做出最好预测的人。
问题之一是人工智能何时能解决竞赛级别数学准确率高于80%的问题。
专家的预测是，人工智能将在四年内达到52%的准确度；但实际上,达到50%以上的准确度只花费不到一年。
这些都是专家，这些人是看到双指数曲线的例子，他们是预测的人,但这仍然比他们想象的四倍更近了。
他们的误差有四倍之多，看起来AI很可能会在今年达到100%的准确率，是专家级别的。
事实证明，人工智能正在以我们可以制作（测试）的速度打败测试本身。

AI自我喂养的机器 = 人类无法追赶的爆发式增长

这条线是人类能力，每一条彩色线都是不同类型的测试。您会看到，一开始，人工智能需要20年才能达到人类的水平；但是到了2020年时，人工智能正在解决掉这些测试，几乎与我们可以创建的速度相当。
您可以想象2021年，2022年和2023年会发生什么。
即使对专家来说,随着进步的加速，跟进一切也变得越来越难。
Jack Clark，Anthropic的共同创始人兼前OpenAI的政策主任，他说，进步正在解锁与经济和国家安全相关的关键要素，而且发展太快,如果你不每天浏览论文，你甚至会错过竞争对手已经注意到并利用的重要趋势。
甚至创建这个演示文稿时，如果我不每天检查几次Twitter，我们会错过重要的进展，这是生活在双指数中的感觉。
所以这也是我们要做这个演示的原因，让您能看到和直观地理解，当您看到这些例子时，两个月前，一个月前,一天前，这种情况正在越来越快地发生，而且因为它发生得太快,很难感知它,就像范式一样，整个空间都位于我们的认知盲点。
你知道，人的眼睛里实际上有一个视觉盲点, 那里没有视觉神经元，我们看不到投射在眼睛那个位置的东西。
我们在范式上同样有一个盲点，和指数曲线有关。我们的进化遗传中没有任何东西是为了看指数曲线而建立的，所以这在进化上打中了我们的盲点。这些曲线（指数级增长）对我们处理世界的方式来说一点不直观。
这就是为什么我们打包和综合这些信息的原因：以便更多人理解这些鬼魂的直观性。