算法即服务:以正确价值观应用算法推荐技术
作者: 王春晖 来源: 人民邮电报 编辑: 赵超 时间:2022-07-14 13:37:41
大数据时代的算法技术,是依托海量内容、多元用户和不同场景等核心数据信息,进行自主挖掘、自动匹配和定点分发的智能互联网技术。“算法推荐”技术的出现和普遍应用,意味着人类开始运用机器大规模解决信息分发问题,算法技术与网络数据的融合,使人类社会信息的分发发生了质的转变,从原来人力对数据的分发转向了自动化,即从“人找信息”到“信息找人”。
规范算法推荐技术使用
数字经济时代,算法应用日益普及,一方面,算法给经济社会发展等方面注入新动能,也给消费者带来了便利和效率;但另一方面,例如算法滥用、算法歧视、“大数据杀熟”、诱导沉迷等,已经出现很多负面问题,不但影响着正常的传播秩序、市场秩序和社会秩序,也给意识形态安全、社会公平公正和消费者合法权益带来严峻挑战,迫切需要对滥用算法处理个人数据行为进行立规和治理,让算法回归服务人类,为人民造福的愿景。
3月1日起施行的《互联网信息服务算法推荐管理规定》(以下简称《算法规定》)明确,应用算法推荐技术,主要是指利用生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类这五类算法推荐技术,向用户提供信息。
生成合成类算法推荐,是指该类算法将视频、图片、文字、语音等文件自动进行合成,并将生成内容发布到互联网平台上。比如自动写稿机器人(如互联网医疗通过数据分析形成诊断结果)、虚拟博主、AI换脸程序等。现在好多假新闻采用生成合成类算法推荐,因此,《算法规定》特别提到,不得生成合成虚假新闻信息。
个性化推送类,是指该类算法通过识别用户不同的兴趣、喜好、习惯等,形成该用户的个性化标签,以此向用户自动推送经过精准匹配的相关互联网内容。比如个性化广告推荐,首屏、精选新闻、消息个性化推荐等。
排序精选类,该类算法将信息按照一定方式进行排序,并按照该排序向用户展示排序结果,比如搜索引擎推荐搜索结果排序、广告推荐排序、网站推荐浏览咨询排序、操纵榜单等。
检索过滤类,该类算法通过建立内容索引树等方式,对内容进行检索、过滤,形成用户偏好的结果,比如关键词过滤,搜索引擎,自动识别敏感字词,屏蔽信息、过度推荐等。
调度决策类,该类算法按照系统的资源分配策略,通过判断多维度的影响因素自动提供最优路线或者最短时间等决策结果信息,比如路线规划,劳动报酬、休息分配,工作时间规划,自动驾驶系统根据路况信息规划路线,平台订单分配等。
《算法规定》明确要求,算法推荐服务提供者向劳动者提供工作调度服务的,应当保护劳动者取得劳动报酬、休息休假等合法权益,建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法。
让算法回归服务人类
不能孤立地讲“算法时代”,当前应该是数据、算法、算力集成融合发展的时代,特别是数据要素已经成为国家五大生产要素之一,且与其他四大要素(土地、人力、资本、技术)正在深度融合产生巨大的聚合力。数据、算法、算力三要素的集成在经济社会生活多领域得到越来越多的应用,其中数据是基础,也是最底层的资源,但是数据资源的价值必须通过智能技术对数据的深度学习和有效分析才能显示出来,算法就是加工和处理海量数据的技术;算力是计算能力,有了数据和算法之后,需要进行训练,不断训练,算力为算法技术提供了强大的计算能力支撑,其本质是一种算力基础设施的支撑。算力支撑下的算法,对数据进行处理和深度学习,已经成为影响信息分发、服务提供、机会分配、资源配置的基础性机制和力量,日益成为数字社会发展的创新基础和核心动能。
6月6日,笔者在由金砖国家、上海合作组织、集体安全条约组织等国际组织主办的第五届国际信息安全大会上,提出了“算法即服务”(AaaS)的理念,倡导算法应当以服务人类为宗旨。
算法有着积极的一面,就是给经济社会发展等方面注入新动能,也给消费者带来了某些便利和效率。因此,我们不禁止算法推荐,而是禁止对算法推荐技术的滥用。算法推荐技术本身是中立的,但是使用算法推荐技术的人和组织是有价值倾向的。因此,必须提醒算法推荐服务提供者注意,在使用算法推荐技术时,一定要做到算法推荐技术必须以积极向善的价值观来引导,算法推荐不仅要做到所推荐的信息是用户感兴趣和真正需要的内容,同时算法推荐的内容也应当符合主流价值观,尤其是一些短视频平台的算法推荐,一定要将主流价值观落实到平台管理、内容生产、算法推荐等各个环节,营造传递社会正能量、宣传社会主义核心价值观、健康向上的算法推荐生态环境,让算法回归服务人类,而不是“算计”。
政府监管部门应尽快出台《算法推荐服务伦理与道德行为规范》,并制定《算法推荐服务问责办法》,加强对算法推荐潜在危害与收益的评估,构建算法推荐服务在复杂场景下突发事件的解决方案。同时,应当积极参与算法推荐服务的全球治理,加强算法服务异化和安全监管等重大国际共性问题研究,深化在算法国际规则等方面的国际合作,构建我国数据、算法、算力三大领域的国际制度性话语权。
(作者系工信部信息通信经济专家委员会委员、网络空间治理与数字经济法治〈长三角〉研究基地主任兼首席专家、南京邮电大学教授)