当前，个性化推送等算法技术已成为互联网信息分发的重要工具，代表了社会信息传播的新范式。然而，算法应用也滋生了信息茧房、网络沉迷、饭圈流量操纵、干预信息呈现等一系列信息内容安全问题。

2021年12月31日，国家网信办等四部门联合出台《互联网信息服务算法推荐管理规定》（以下简称《规定》），准确把握新技术新应用法律规制的“时间差、空白区”，力图强化互联网信息服务领域算法推荐技术治理，迈出了我国新技术新应用治理的重要一步。

信息内容安全成为我国算法治理的重点问题

我国算法治理首先聚焦于信息内容安全问题。2017年，《人民日报》针对算法推荐乱象连发三文，批判算法价值观缺失、信息茧房等问题，提出警惕算法走向创新的反面。为规范新技术新应用，推动信息内容生态有序发展，《网络信息内容生态治理规定》《网络音视频信息服务管理规定》等提出个性化算法的人工干预和自主选择机制，设置安全评估义务等内容，在信息内容领域强化了算法应用的主体责任。

2021年8月，中宣部等五部门联合印发《关于加强新时代文艺评论工作的指导意见》，重点强调要加强网络算法研究和引导，开展网络算法推荐综合治理，不给错误内容提供传播渠道。

此次出台的《规定》将防范信息内容安全风险、推动网络信息内容生态健康发展作为重要目标，与互联网信息服务相关立法有效衔接、一脉相承，强调应当坚持主流价值导向，优化算法推荐服务机制，积极传播正能量，促进算法应用向上向善。

算法治理应推动算法创新和风险规制的双向治理

算法技术创新对于推动数字经济繁荣发展具有重要意义。在早期门户互联网时代，信息传播主要运用“信息—编辑—受众”的传播结构，信息呈现“千人一面”的特点。随着智能互联网技术发展，算法分发模式绕过编辑一环，通过协同过滤算法、社交关系、个人喜好等，将不同信息进行“千人千面”的个性化推送。算法技术的发展显著提升用户信息获取效率，推动我国数字内容产业蓬勃发展，进一步增强了我国互联网企业国际竞争力。

然而，算法应用中也呈现出一系列突出问题。

一是以获取流量为核心目标，缺乏价值引领。用户流量是企业盈利的重要来源，在积极获客、增加用户粘性的目标引导下，算法容易优先推送博人眼球的虚假信息、标题党、极端内容、低俗泛娱乐等信息，扰乱互联网健康生态。

二是形成信息茧房，引发极端思想。一方面，长期困于信息茧房、屏蔽异己信息，不利于个人思想塑造和观点养成。另一方面，信息茧房容易激化矛盾、加剧社会焦虑情绪，甚至导致群体极化。

三是具有操纵用户思想、影响社会舆论的能力。算法通过大数据深度分析并实施有针对性信息推送，无形中对特定个人或人群进行精准思想操纵。算法带来的新型信息内容安全风险不断侵蚀国家安全、公共利益和个人权利，也成为制约我国新发展阶段数字经济提速的瓶颈和障碍。

可见，算法治理应坚持统筹发展和安全的基本理念，注重促进算法创新和风险规制双向治理。

加强信息内容领域算法治理已成为各国普遍趋势。近年来，算法操纵思想成为首要监管对象。同时，算法也推动了网络平台责任豁免规则变革。

推进我国信息内容领域算法治理的本土化方案

《规定》注重平衡技术发展和算法安全，重点从三大层面提出了算法治理的本土化方案。

一是强化算法透明度。算法透明是实施算法监督的重要前提，要求算法使用方披露算法要素，如算法运行机理、输入数据等，以实现用户知情权、自主选择权，增进公众信任、维护竞争秩序、认定损害责任等目的。

《规定》对算法透明进行了精细化设计。一方面设立备案制度，以实现对监管部门的透明，尝试为算法风险监测和事后问责提供依据。另一方面提出向用户透明的具体方案，要求应当以显著方式告知用户其提供算法推荐服务的情况，并以适当方式公示算法推荐服务的基本原理、目的意图和主要运行机制等。此外还确立了算法公开透明原则，强化行业组织和社会公众监督等。

二是明确了风险规制思路。根据算法风险大小确定差异化的规则，是平衡技术安全和企业成本的重要方案。《规定》采用了分级分类思路，规定根据算法推荐服务的舆论属性或者社会动员能力、内容类别、用户规模、算法推荐技术处理的数据重要程度、对用户行为的干预程度等实施分级分类管理。

同时，《规定》提出了对算法进行审查评估的义务，要求应当定期审核、评估算法机制机理、模型、数据和应用结果，并建立安全评估监测、安全事件应急处置等制度，提出事前、事中、事后全流程、全链条的治理要求。

三是细化平台问责方案。平台问责是实现事前风险防控和事后损害救济的重要保障。针对算法运行的技术机理和平台权力的形成机制，《规定》从多个角度提出十项“不得”和十六项“应当”要求。

具体来看，包括注重事前规制，强调将把关窗口前移，要求不得将违法和不良信息作为用户标签，并据以推送信息；推进技术治理，鼓励运用内容去重、打散干预等技术策略，满足信息提供的多样性；强化主流价值导向，如在首页首屏、热搜、精选、榜单类、弹窗等重点环节积极呈现符合主流价值导向的信息内容；禁止干预信息呈现，不得利用算法屏蔽信息、过度推荐、操纵榜单或者检索结果排序、控制热搜或者精选等。

总体来看，《规定》的出台顺应世界发展趋势，是在数字化变革时代对算法推荐技术和平台治理的有效回应。国家网信办等九部门《关于加强互联网信息服务算法综合治理的指导意见》指出，利用3年左右时间，逐步建立治理机制健全、监管体系完善、算法生态规范的算法安全综合治理格局。在未来算法推荐技术治理中，应进一步完善算法综合治理机制，探索多元协同治理，推动数字经济发展行稳致远。