算法面前 人变工具? 加强算法综合治理是必答题

　　原标题：用主流价值导向驾驭算法

　　算法是基于数据用系统方法描述、解决问题的策略机制，在经济、社会生活多领域广泛应用的同时，基于累积数据不断迭代，成为影响信息分发、服务提供、机会分配、资源配置的基础性机制和力量。当前，既要把握人工智能发展趋势，用得好，也要管得住，有效防范算法滥用带来的风险隐患，更要通过加强算法综合治理，实现以主流价值导向驾驭算法。

　　加强算法综合治理是必答题

　　21世纪以来，算法技术发展迅速，自动化决策在经济生活、社会生活中日益获得更大影响力和主导权。互联网平台通过使用算法提升信息服务与用户需求匹配度而获得竞争优势，单一平台甚至拥有日活数亿用户。中国庞大的用户群为算法发展提供了坚实基础。在海量增长的用户数据支撑下，算法不断迭代，智能水平也在逐次提升。

　　“算法面前，人变成了工具？”等尖锐问题引发强烈共鸣。推荐算法推送同类信息令用户心生厌倦，人们日益担忧算法推荐服务催生的各种“信息茧房”、伦理问题等。更重要的是，算法推荐服务对社会生活、公众认知和意识形态具有越来越大的支配作用，必然要纳入政府综合治理范围。

　　从公众利益和国家安全层面看，绝不能任由推荐算法决定青少年的信息获取和价值观形成，绝不能任由推荐算法决定信息分发导致意识形态安全失衡，绝不能因法律、技术监管能力不到位使互联网信息算法推荐服务在关键时刻带来风险。可以说，加强推荐算法综合治理是一道必答题。

　　多方入手实施算法综合治理

　　算法综合治理有效实施，至少需要加强四个方面建设。

　　其一，树立正确导向。算法由人设计就应由人操控、有人负责。算法推荐所体现的价值取向，相当程度上体现了算法推荐服务提供者的价值观。算法应用必须向上向善，是社会共识；坚持主流价值导向，优化算法推荐服务机制，积极传播正能量，是对算法推荐服务提供者的基本要求；不得利用算法推荐服务从事危害国家安全、扰乱经济秩序和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动，不得利用算法推荐服务传播法律、行政法规禁止的信息，是算法推荐服务提供者必须遵守的底线规则；建立完善人工干预和用户自主选择机制，在首页首屏、热搜、精选、榜单类、弹窗等重点环节，积极呈现符合主流价值导向的信息内容，提高正能量传播的精准性和有效性，则是算法推荐服务提供者应有的价值取向和追求。在算法综合治理中必须用多种规则、手段强力要求，切实监管，确保实现。

　　其二，健全法律法规。2021年9月1日施行的《中华人民共和国数据安全法》对数据处理活动进行了全面规范。将于11月1日施行的《中华人民共和国个人信息保护法》，第一次在法律文本中定义了“自动化决策”一词的含义为“通过计算机程序自动分析、评估个人的行为习惯、兴趣爱好或者经济、健康、信用状况等，并进行决策的活动”，并明确规定“个人信息处理者利用个人信息进行自动化决策”时，“应当保证决策的透明度和结果公平、公正”，应提供“不针对其个人特征的选项，或者向个人提供便捷的拒绝方式”；还应就“利用个人信息进行自动化决策”“事前进行个人信息保护影响评估，并对处理情况进行记录”。

　　国家互联网信息办公室等九部门公布的《关于加强互联网信息服务算法综合治理的指导意见》，对管理好、使用好、发展好算法应用做出了顶层设计，确定了“利用三年左右时间，逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局”的目标，并就健全算法安全治理机制、构建算法安全监管体系、促进算法生态规范发展做出了规定和系统安排。国家网信办发布的《互联网信息服务算法推荐管理规定(征求意见稿)》，第一次区分了生成合成类、个性化推送类、排序精选类、检索过滤类、调度决策类五类向用户提供信息内容的算法技术，并就算法推荐服务提供者的责任和义务、算法推荐服务公告和算法备案等制度、算法推荐未成年人模式做出了详细规定。这个管理规定明确将根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据敏感程度、对用户行为的干预程度等，对算法推荐服务提供者实施分类分级管理，并对算法安全评估和监督检查做出了具体规定。

　　数据安全法、个人信息保护法的施行，指导意见出台和管理规定公开征求意见，为算法综合治理提供了规则依据、奠定了法治基础。

　　其三，提升监管能力。算法综合治理需要专业监管能力。算法不断迭代、甚至自我更新是其智能水平的体现。人们对算法的“可解释性”有多种观点，对算法推荐结果的“不可解释性”也有深深担忧，因此把算法称为“黑箱”。算法监管不仅需要专业监管队伍和不断提升的依法监管能力，还需拥有不断迭代的检测、验证、评估工具和技术监管能力，算法综合治理才可能落到实处。监管部门应当具有在不掌握算法内部结构、核心内容的情况下，以一定规则、特定输入条件、输出结果对算法进行综合测试的专业能力；或是根据算法使用者所提供的算法相关情况对其推荐服务结果进行综合验证的专业能力；以及根据相关规定对算法安全做出评估，对其自评估报告进行验证的专业能力。《关于加强互联网信息服务算法综合治理的指导意见》第三部分“构建算法安全监管体系”中就对“积极开展算法安全评估”提出了要求，包括“组织建立专业技术评估队伍，深入分析算法机制机理，评估算法设计、部署和使用等应用环节的缺陷和漏洞，研判算法应用产生的意识形态、社会公平、道德伦理等安全风险，提出针对性应对措施”。这样的专业技术评估，是有效实施算法综合治理的物质基础。

　　其四，优化协同机制。建立健全有法可依、多元协同、多方参与的算法安全治理机制，是中国进行算法综合治理的组织优势、制度优势所在和重要保障。协同机制建设的基础是权利、义务、责任的配置。通过法律、法规、规章和相关规定，进一步明确政府、企业、行业组织和网民在算法安全治理中的权利、义务和责任，特别是强化企业对算法应用产生结果所负的主体责任，才能够形成政府监管、企业履责、行业自律、社会监督的算法安全多元共治局面。因此，要求企业建立算法安全责任制度和科技伦理审查制度，健全算法安全管理组织机构，加强风险防控和隐患排查治理，提升应对算法安全突发事件的能力和水平。协同机制有效运转也需要各个相关部门依法依规协同运作，需要吸引专业人才队伍，汇聚多方资源投入，为算法安全治理提供有力支撑。

　　(作者系天津大学新媒体与传播学院院长、天津市中国特色社会主义理论体系研究中心研究员 陆小华)