[新闻] 人工智能进校园,孩子成为“透明人”?| 数博会官网

人工智能进校园,孩子成为“透明人”?

作者: 陈澄 张韩虹    来源: 新华日报   编辑: 陈骏佼  时间:2019-09-16 11:07:33  

  近日,准备赴港上市的AI(人工智能)巨头旷视科技引发争议。在其发布的场景演示视频中,身处教室的学生们正被AI系统所监控,每一个学生的睡觉、举手、阅读等动作都将被捕捉,并成为衡量他们在校表现的指标。一些舆论认为,旷视科技是在打着“校园安全”的幌子,将孩子置于360度全透明的“监狱”中。

  AI进校园,无疑有助于提升学校的教育管理水平,提高学生的学习效果,但人们也担心,AI在赋能校园的同时,是否会因其过度“发挥”而触及孩子们的隐私底线,伤及自尊?

  “智慧课堂”班级学习成绩确实好

  作为国内的AI“独角兽”,旷视科技在陷入风波后快速做出了回应,称该场景只是技术的概念化演示,目前公司的人脸识别主要还是用于智能校门、教室门及宿舍的出入,方便学生安全出入校园。

  记者也了解到,AI与校园结合而产生的“智慧校园”概念,当前主要应用在学校管理、教学管理以及学生学习等方面,有助于学校管理的降本增效。

  已经布局该业务的科大讯飞一位相关负责人就告诉记者,公司在“智慧校园”领域重点打造了“智慧课堂”产品,这款产品是利用AI等智能信息技术打造智能、高效的课堂,通过构建“云、台、端”整体架构,创设网络化、数据化、交互化、智能化学习环境,真正实现个性化学习和因材施教。

  “事实证明,智慧课堂的应用对学生有很大帮助。”连云港某中学年级主任王老师带着两个智慧课堂班级,每次考试后他都会自己制图制表对比使用数据,他告诉记者,“这两个班是10个理科平行班中的普通班,高二分班时一个在年级平均分之上,一个在之下,成绩中等。智慧课堂应用一个半学期后,期中考试两个班都比年级平均分高了5分以上。”

  而在国家级贫困县河北蔚县的一所农村中学里,“智慧校园”还帮助学校解决了生源流失的难题。据该校校长吴利军介绍,在生源素质明显下降与年轻教师出走的情况下,学校开设了两个智慧课堂实验班。一个学期后,学校对全部科目进行数据分析,两个实验班的平均分高于平行班72%、及格率高于68%、优秀率更是高于72.5%,各学科的名次与总成绩名次均居前列。“出了成绩后,很多家长要将孩子送来读书,并且主动要求‘加钱’上实验班,其实智慧课堂不会对学生另收费,但是家长与社会的支持,让我们有信心坚持发展‘智慧校园’。”吴利军表示。

  智慧校园市场千亿“蛋糕”待分享

  “智慧校园”所具备的切实有效和拥有广泛群众基础的特点,使得其市场规模正在急剧扩大。猎豹全球智库分析师李欣告诉记者,今年4月,教育部发布的2018年全国教育经费总投入为4.6万亿元,按照此前要求的比例下限8%估算,预计我国在教育信息化上的投入能达到3600亿元。而智慧校园是教育信息化的重要组成部分,这也意味着,按照最保守的规模估计,智慧校园将是一个千亿级别的市场。

  “蛋糕很大,但是反观校园市场,包括信息化建设在内的效率提升仍然处于初级阶段。”李欣认为,语音、人脸、个性化推荐等AI技术的出现,给了众多企业进入校园的机会。于是,包括AI为代表的科技新兴企业、现代化的教育培训公司以及互联网巨头三股势力纷纷“杀进”智慧校园,大家“玩法”不尽相同,主要切入点有智能教室、考勤安防、智慧教学、智慧考试、家校互动等方面。

  而在这一轮“三国杀”中,也不乏江苏企业的身影,上市公司苏州科达就是其中的佼佼者。据苏州科达科技教育事业部总经理彭涛介绍,公司早在2015年就提出“走进机器识图时代”,在教育领域也一直在探究能实际落地的AI应用。目前,公司已推出了多种面向不同场景的AI应用,如人脸无感点名,到勤率、前排就座率、抬头率等“三率分析”,人员导流,在线可视化督导,教学场景智能摄录等。

  彭涛还表示,在越来越多“玩家”涌入后,智慧校园已拥有众多新功能,比如录播系统、跨校远程互动、在线教学督导等等。不过,这些新科技在进入校园时还应解决一个“痛点”,那就是避免重复建设、打破信息孤岛。为此,苏州科达所有前端设备均可以共用,后台系统可以复用和无缝对接。比如,一间教室只需安装2个摄像机,就可以实现电子巡考、远程互动教学、教学督导、日常安保等诸多应用。

  人工智能当守尊重隐私的底线

  智慧校园在资本的推进下不断进步,但就像旷视科技带来的争议一样,更多人担忧,在技术和技术巨头的包裹下,包括孩子在内的每个人,都可能成为毫无隐私的“透明人”。AI的伦理规范,因此被提上日程。

  就在今年6月,科技部发布了《新一代人工智能治理原则》,《治理原则》旨在更好协调人工智能发展与治理的关系,确保人工智能安全可控可靠,推动经济、社会及生态可持续发展,共建人类命运共同体。《治理原则》还突出了发展负责任的人工智能这一主题,强调了和谐友好、公平公正、包容共享、尊重隐私等八条原则。

  对于上述原则,科大讯飞董事长刘庆峰认为,在保护用户隐私方面,不仅法律要同步跟上,企业也要有更强的保护意识,现在已经有很多服务涉及老百姓的日常生活。因此,领军企业要做到表率作用,不仅仅是向用户进行告知,还包括价值观层面的指引。另外,目前很多数据都是在用户不知情的情况下被企业拿走。“从技术层面看,我们应该通过人工智能技术的发展给予用户更多的选择权,例如科大讯飞的翻译机,考虑到机密信息可能泄露,公司在设计产品的时候就做了离线翻译的版本,这是非常必要的。”

  彭涛也告诉记者,苏州科达一直强调对师生隐私和伦理道德的尊重,“我们认为在教育领域,AI应该是有温度的,AI应该是学校管理、教师教学的辅助工具,而不是替代者。”

  李欣则表示,这些伦理原则看上去“虚无缥缈”,但依然吸引众多AI“玩家”参与其中,是因为其需要抓紧参与到这个新兴技术制定游戏规则的未定之局中来,从而获得更大的行业话语权,这其实是在构建更高层次商业壁垒和核心竞争力,考虑到国外巨头起步更早,中国企业更应及时推行“科技向善”。