作为一名长期关注人工智能发展的研究者,我深感目前关于AI的炒作已经远远超出了实际技术的水平。最近,加里·马库斯教授提出了对现有AI技术的严厉批评,他认为当前的人工智能进展充其量只是技术上的小步伐,而非突破性的飞跃。马库斯教授对OpenAI等机构的乐观预测表示怀疑,认为这些预测更多的是为了营销而非真实技术进展。

参考消息网8月14日报道 据德国《商报》网站7月15日报道,现年54岁的认知科学家加里·马库斯是人工智能(AI)圈子里最具争议的人物之一。围绕所谓的大型语言模型的能力,马库斯与开放人工智能研究中心(OpenAI)首席执行官萨姆·奥尔特曼以及特斯拉首席执行官埃隆·马斯克争论不休。奥尔特曼和马斯克预计,人工智能将很快发展出类人的能力。马库斯却看到了另一种危险:他认为,新的人工智能模型只是一场炒作,“很快就会破灭”。《商报》记者问:马库斯先生,您可能是最著名的OpenAI批评者。奥尔特曼公司的哪一点让您不满?马库斯答:我并不反对OpenAI或奥尔特曼本人。我反对的是虚假承诺。问:虚假承诺是指?答:OpenAI宣布,其使命是开发能造福全人类的通用人工智能。人们可以向它提出任何问题,它会理性地给出正确答案。但实际上,OpenAI的软件既不安全也不可靠,且忽视了公众利益。问:奥尔特曼说,OpenAI离实现通用人工智能可能只差一两次突破。答:我认为,这是炒作和无稽之谈。问:为什么?答:看看新模型GPT-4o,我认为它是构建GPT-5的一次失败尝试。OpenAI曾多次暗示,即将推出GPT-5,然后通用人工智能就会到来。事实却是,人工智能的发展速度最近一直在放缓。OpenAI走错了方向。问:走错方向?随着聊天机器人ChatGPT的推出,OpenAI引发了前所未有的人工智能热潮。答:ChatGPT或许很受欢迎,但并不可信。我对精明的企业家没什么意见,但必须指出当下流行的人工智能模型的技术局限性。只有克服这些局限性,人工智能的发展才能进入值得信赖的轨道。问:具体是什么让您不安?答:我不认为大型语言模型(生成式人工智能的一个子集)真的是一个好的解决方案,尽管它们很受欢迎。它们包藏了太多风险,其中最严重的是错误信息,另一个则是幻觉。问:也就是说,这些模型会编造答案和结果。答:正是。什么是大型语言模型?它是一种概率模型,可以计算出句子中最有可能出现的下一个词。其结果是,系统拥有惊人的模仿能力,但并不真正聪明。它们或许可以很好地解答80%的问题,却对剩下的20%几乎束手无策。人们可以和聊天机器人谈论几乎任何事情。有时答案是对的,有时是错的。但我们无法预测何时会出错,这是一个大问题。问:人类不会犯错吗?答:人类当然会犯错,但人的错误与机器的错误截然不同。此外,人类在某些领域非常出色,当今的机器则不然。以人工智能辅助驾驶为例:我们看到,很多事故都是由人类驾驶员高估机器的能力造成的。他们看到机器正确驾驶了45分钟,于是就认为“太好了,我能信任它”。从统计学角度看,这种想法很愚蠢。一辆在95%的场景中自动驾驶的汽车,会在20种情况中的某一种中做出错误决定。这可能会要了我们的命。这是不可接受的。问:马斯克认为,更多的数据将完善自动驾驶。OpenAI也提出,数据越多,语言模型越强。答:这是误入歧途。我们看到,新推出的模型变体带来的回报逐渐减少。进步速度放缓。我们不会因为模型越来越大而实现通用人工智能。问:您怎么能如此确定呢?答:没有什么是确定的。但在我看来,用越来越多的数据“喂养”模型,从而实现通用人工智能,这种可能性微乎其微。一方面,根本没有足够的好数据。OpenAI已经刮了互联网上的人类文本,现在又在转录优兔(YouTube)视频,但仍然不够。另一方面,目前还不清楚更多的文本是否真的有助于人工智能的发展。就拿我的孩子们来说:他们比任何人工智能都要聪明,但他们并没有翻阅整个互联网。为什么?因为他们能更高效地分析数据,并从更多渠道获取数据:通过眼睛、耳朵和感觉从现实生活获取数据。人类构建了世界运行的因果模型,但生成式人工智能做不到这一点,所以我们无法真正信任它。问:许多人都希望用所谓的合成数据,即人工智能生成的数据,来训练他们的模型。答:这是主流人工智能抓住的下一根救命稻草,其背后的想法非常糟糕。人工智能系统会产出满是幻觉的糟糕数据,然后它们又被用来训练其他系统。结果就是,越来越多的虚假信息污染了互联网。人类已经在用生成式人工智能来快速炮制不可靠的产品,例如未经研究、未经核查的传记。这样一来,人工智能不会让世界变得更聪明,而是变得更愚蠢。问:ChatGPT通过了图灵测试。这是数学家艾伦·图灵在1950年提出的一项测试:如果人类认为一台机器的回答是人类的回答,那么这台机器就是智能的。答:拜托,图灵测试太可怕了。也许这曾是个伟大的想法,但它已经有74年历史了,经不起时间的考验。图灵测试更适用于验证人类有多么容易上当受骗。我们现在就能建立一个系统,在短期内骗过一个没有受过心理学或人工智能训练的天真的人。但这并不能证明什么。图灵测试的确提出了一个正确的问题:什么是智能?但我们仍未找到答案。

总的来看,马库斯教授的观点提醒我们在面对人工智能技术的宣传时保持谨慎。虽然AI技术在某些领域取得了显著进展,但我们不能忽视其存在的风险和局限性。未来的AI发展需要更多实际有效的突破,而非依赖于炒作和虚假承诺。我们应理性看待AI的发展,避免被技术热潮所迷惑。