“人工神经网络是否很快会比真实的神经网络更智能,这样的事情可能很快就会发生。”
“到目前为止,我还想象不到更智能的事物被一些没它们智能的事物所控制的例子。打个比方,假设青蛙创造了人类,那么你认为现在谁会占据主动权,是人,还是青蛙?”6月10日,被誉为“AI教父”的杰弗里·辛顿(Geoffrey Hinton)在2023北京智源大会上表示,“超级智能可能会比我过去所认为的出现得更快。”在30分钟的线上演讲中,辛顿讲解了自己的研究如何支持这样的结论,并提出问题——人类该如何与比自己更智能的存在共处?
杰弗里·辛顿是2018年图灵奖得主、“深度学习之父”,也被称为“AI教父”,曾任谷歌公司副总裁。他在神经网络和深度学习方面的开创性研究为当前的人工智能系统开辟了道路。5月初,辛顿辞去他在谷歌担任了十多年的职位,表示做出这个决定是为了可以自由讨论“人工智能的危险”。此后,他频繁接受媒体采访,不遗余力地对人工智能可能操纵人类发出警报。
而在本次面对中国同行的演讲中,辛顿首先解释了他的研究成果。他认为,现在可能要放弃计算机科学最基本的原则,即软件与硬件分离。在这种原则下,训练大模型需要耗费大量算力,计算的能耗和规模都极其低效。如果放弃此原则,充分利用硬件的丰富模拟(处理和生成多样化和广泛的模拟信号)和高度可变的特性,那么就会得到辛顿所说的“凡人计算”(Mortal Computation,也译为非不朽计算、有生有死的计算),即像人类的智慧依赖其身体不可随意复制一样,软件也依赖于它所存在的硬件。