[新闻] 专家学者、行业领袖数博会热议ChatGPT:是“利器”,还是“凶器”?| 数博会官网

专家学者、行业领袖数博会热议ChatGPT:是“利器”,还是“凶器”?

作者: 徐倩    来源: 贵阳网·甲秀新闻   编辑: 蔺弦弦  时间:2023-05-26 18:49:26  

  2023年初以来,ChatGPT成为现象级互联网应用,引发全球热议。作为万众瞩目的明星,ChatGPT是“利器”还是“凶器”?在2023数博会上,多位专家学者、行业领袖展开热议。

1.jpg

中国工程院院士、清华大学计算机系教授郑纬民

  中国工程院院士、清华大学计算机系教授郑纬民在“大数据科学与工程”论坛上提出,ChatGPT出来后,技术层次有了三方面进展,即数据清洗、人工标注反馈和整体系统工程化。在郑纬民看来,整体系统工程化实际上是软硬件协同的系统设计与优化。近年来,新型硬件层出不穷,做人工智能大模型训练的机器类型也有很多。因此,大模型必须和硬件匹配。新的应用软件出来了,也需要对新型硬件系统进行设计和优化。

2.jpg

上海交通大学人工智能研究院常务副院长杨小康

  有了ChatGPT后,某种程度上已是通用人工智能了,而且部分解决了图灵的测试,上海交通大学人工智能研究院常务副院长杨小康认为,通用人工智能初步的版本的确已经来了,这是一个技术演进,“人工智能是新型生产力和新型创造力,不仅可以是AI机器工具,也有望成为科学研究的工具。”

  作为新一代信息技术,人工智能不断迭代进化至今,赋能人类的生产、生活,满足了人类追求美好生活的幻想。然而,正如一枚硬币有两面,面对以ChatGPT为代表的通用人工智能技术的不断革新带来的便利,在某些方面也更容易产生隐藏的风险。

3.jpg

国务院参事,发展中国家科学院院士、中国科学院大数据挖掘与知识管理重点实验室主任石勇

  正如国务院参事,发展中国家科学院院士、中国科学院大数据挖掘与知识管理重点实验室主任石勇在“大数据科学与工程”论坛上提出,ChatGPT是双刃剑,ChatGPT可以充当机器人大脑,催生新的商业模式的形成和发展,另一方面,ChatGPT将引发道德与伦理问题。

  在2023中国国际大数据产业博览会“‘数据二十条’安全产业发展”论坛上, 国家信息技术安全研究中心主任俞克群、北京大学软件和微电子学院院长陈钟也针对因生成式人工智能而产生的数据安全问题提出了自己的观点和建议。

4.jpg

“‘数据二十条’安全产业发展”论坛圆桌对话

  俞克群认为,ChatGPT4可以快速收集网上存在的泄露出来的密码和各种拓扑数据,来丰富它的语料和知识库。同时,它也可以制造假新闻、假热点造成一些社会不稳定因素,再就是制造一些虚假的理论,如果它最后有了一种意识或者力量来操纵它的话,危害会更大。

  俞克群建议,政府有关部门能够引导或者是组织资源和力量进行合作,聚合力量加快推进AIGC的发展,尽早推出面向社会的平台和产品。同时,在法律上引导受众不要对ChatGPT或者AIGC这种平台产生迷信和崇拜,也要看到它有作恶的一面。

5.jpg

“‘数据二十条’安全产业发展”论坛圆桌对话

  今天的ChatGPT是吐出来的只是字、视频、照片,但如果它将来的思维与机器人结合之后,它除了思考力还会有行动力,而行动力造成的危害或者力量就会比我们现在想象的东西要大得多。北京大学软件和微电子学院院长陈钟举例说,自动驾驶就是非常明显的例子,用算法把车的财产和人的生命构成了一个整体,在这种情况下,它的影响就非常大。所以,我们现在在发展这种技术的同时,也要把安全的因素考虑进去。