[新闻] 人工智能热潮仍需冷思考| 数博会官网

人工智能热潮仍需冷思考

作者: 达涌    来源: 人民邮电报   编辑: 杨小婷  时间:2024-10-17 11:14:02  

  近日,中国科学院院士梅宏指出,当前社会经济发展中,人工智能(AI)无疑是焦点之一。技术的迅猛发展,尤其是深度学习方面的突破,不仅推动了AI技术本身发展,也对社会经济产生了深远的影响。然而,在这一片繁荣景象的背后,作为AI领域的大同行,对当前AI发展中的“过热”现象表示了担忧,并对AI技术路径多样性欠缺的问题提出了思考。

  他表示,AI发展历程中,从最初的算术计算到图灵提出“机器能否思考”的命题,再到如今深度学习的崛起,技术的进步与应用的广泛,引发了人们对机器智能的担忧。当前,AI在感知能力方面取得了显著进展,但在认知能力和行为智能方面与人类相比仍存在较大差距。此外,AI的定义至今未能达成共识,人们对智能的理解仍停留在人脑智能的基础上。

  梅宏认为,现阶段AI的成功源于深度学习,这只是AI研究的一个子领域,其本质是数据驱动的智能、计算实现的智能,即“数据为体、智能为用”,犹如燃料与火焰的关系,燃料越多,火焰越大,燃料越纯,火焰越漂亮。对当前基于深度学习的AI所取得的突破性进展,他是高度认可的。大语言模型带来的最大震撼在于,它可以讲“人话”了,而且语法能力超越了人类平均水平,甚至超越人类的中上水平。大语言模型,乐观判断,也许会成为继计算机、互联网之后,计算科学发展史上的第三大里程碑。

  同时,我们需要清醒地认识到,当前以算法、数据、算力为核心要素的AI技术路径,其持续发展面临重大障碍,原因是尚未出现变革性苗头,对数据的依赖越来越严重,对算力的消耗也越来越巨大。理想的AI应当是低熵的,不以计算资源的消耗换取智能,也不以复杂性的提高换取智能;也应当是高安全的,模型的输出符合真实情况,生成结果确保对人类无害;还应当是不断进化的,具有环境自适应和终生“学习”能力,能不断完善并具有“遗忘”能力。离实现这样的目标,我们还有很长的路要走。

  本质上,当前大模型的竞争已成为“数据工程”的竞争。对于学术界来说,在当前的大模型竞争中面临着算力资源和数据资源的不足,且“数据工程”的定位与学术界探索基本原理的使命不符。未来,大语言模型的发展可能需要走向开源,以便全球共同维护和利用。

  梅宏认为,AI生成的内容(AIGC)在带来便利的同时,也可能生成错误或虚假的内容,这对人类知识体系构成了挑战。因此,我们需要在AI的应用中权衡利弊,确保AI的发展不会超出人类的控制。

  AI在科学研究中的应用(AI4S)展现了巨大的潜力,但它不能替代科学家的角色。科研的核心在于通过不断的探索和验证去伪存真,而AI应作为科学家的助手而非共同科学家。

  梅宏认为,面对AI的“春天”,我们需要警惕当前技术路径的局限性。追求规模和资源消耗的“蛮力”训练路径不可持续,而科研应追求简而美的模型。此外,对于AI作为一个独立学科的问题,AI的发展离不开计算机科学,不应过分细分专业领域。