近日“AI教父”杰弗里·辛顿（Geoffrey Hinton）在联合国AI for Good大会上分享了AI在医疗和教育领域的潜力、他对AI安全的深切担忧以及针对AI发展的一系列监管建议

杰弗里·辛顿接受访谈图源：视频截图杰弗里·辛顿被公认为人工智能先驱他在1986年提出的通过反向传播来训练深度网络理论标志着深度学习发展的一大转机他自2013年起任职于谷歌人工智能研究小组2018年获得图灵奖作为人工智能领域的开创者之一其独特观点引发广泛关注AI向人类心智看齐？AI是否能够产生意识和情感？这一问题很多人都会关心在杰弗里·辛顿看来人类心智并无AI不可“复制”之处且AI已经具备“主观体验”

AI向人类心智看齐是否意味着AI可能比人类更聪明？杰弗里·辛顿在访谈中没有直白表露自身态度但他指出AI不仅将助力基础科学研究在许多情况下还能处理大量非视觉、非听觉的复杂数据如基因组数据他认为“AI系统在处理大规模数据、识别模式、理解数据方面将远超人类”并强调通用人工智能不会突然出现一个时刻让机器瞬间超越人类“它们将在不同时间在不同领域超越人类”

图源：马斯克X平台贴文截图今年3月13日特斯拉创始人埃隆·马斯克在X社交媒体上发表预测“明年人工智能可能会比任何人类个体都聪明到2029年人工智能可能比所有人类加起来还要聪明”

微软总裁布拉德·史密斯（Brad Smith）也曾表示具有超级智能水平的人工智能不太可能在一两年内实现这需要耗时数年甚至数十年贫富差距，“加大”or“缩小”？杰弗里·辛顿对通用人工智能表示担忧，他认为新技术将很快剥夺工作机会与之相反加州大学伯克利分校计算机科学系教授斯图尔特·罗素曾表示人工智能在教育领域将产生重大影响能提供个性化教育提升各国人民的教育水平和人们创业的能力“如果选对了发展路径人工智能可以缩小贫富差距”华为公司创始人任正非此前也表示不必对人工智能过于恐慌“今天无论是穷人还是富人绝对财富都比几十年前要多这是一个社会问题而不是技术问题”人工智能风险不容忽视依靠深度伪造技术工具AI客服可以同时给上万人打电话从事危害性强、数额巨大的电信诈骗……

这不是危言耸听多项研究表明现在的AI已经能够无师自通地学会欺骗手段杰弗里·辛顿在访谈中表示他所担忧的事就是网络犯罪他从美国加州大学伯克利分校计算机系教授宋晓东（Dawn Song）演讲中获悉去年网络钓鱼攻击增加了1200%这些攻击变得更难辨认

联名信署名图源：Right To Warn AI鉴于对人工智能技术潜在风险的担忧杰弗里·辛顿还在今年4月为13位来自OpenAI和Google的现任及前任员工发布的联名公开信做背书信中指出尽管人工智能技术可能会给人类带来巨大益处但其带来的风险同样不容忽视这些风险包括加剧社会不平等、操纵和虚假信息传播以及自主AI系统失控可能导致的人类灭绝公开信签署者们呼吁相关公司采取更加透明和负责任的措施来应对这些风险