国内网络信息内容生态治理研究的系统性综述.pdf

科 技 情 报 研 究SCIENTIFIC INFORMATION RESEARCH第5卷第4期Vol.5No.42023年10月Oct.2023国内网络信息内容生态治理研究的系统性综述李炜超1，2周毅2，31.浙江大学医学院附属第一医院图书馆，杭州 3100242.苏州大学网络舆情分析与研究中心，苏州 2151233.苏州大学社会学院，苏州 215123摘要：目的/意义 对国内网络信息内容生态治理研究进行综述，以期为未来研究和治理实践提供有价值的参考。方法/过程 从 CNKI 核心期刊库采集文献数据，利用文献计量法揭示网络信息内容生态治理研究的宏观态势，利用系统性综述方法筛选出符合标准的文献，从治理者、治理对象、治理工具以及治理机制 4 个维度进行梳理与归纳。结果/结论 多元主体协同共治成为学界基本共识，解决主体失灵现象和促进主体协同是近年来关注的重点之一；当前研究已经突破信息内容本身，与信息内容生产、传播和使用有关的各类主体、技术以及背景环境都成为研究对象；治理工具可以归纳为规制型工具、促进型工具和教育引导型工具 3 大类，借助数智技术强化治理工具效能已成为政府和多数学者的共识；治理机制归纳和划分为事前、事中以及事后 3 个阶段。未来需要更多从总体国家安全高度加强网络信息内容生态整体性治理研究，加强网络正面优质信息内容生产与推荐，以及网络信息内容生态治理中算法应用的风险治理研究。关键词：网络信息内容生态治理；信息内容安全；信息内容治理机制；算法应用风险中图分类号：G358文献识别码：A文章编号：2096-7144（2023）04-0057-21DOI：10.19809/ki.kjqbyj.2023.04.005收稿日期：2023-04-09修回日期：2023-06-12基金项目：国家社会科学基金一般项目“网络信息内容生态安全风险治理模式构建与实现研究”（编号：21BTQ013）作者简介：李炜超，男，1993 年生，硕士，馆员，主要研究方向：公共信息服务，E-mail：；周毅（通讯作者），男，1966 年生，博士，教授，博士生导师，主要研究方向：公共信息服务、公共数据治理，E-mail：。1引言随着网络数智技术的发展，网络信息内容剧增，网络正面优质信息内容涌现的同时，负面有害信息内容也在泛滥。2020 年和 2021 年，国内受理网络违法和不良信息举报分别达 1.63亿件、1.66亿件1-2。各类用户生产内容和参与网络行为动机的复杂性，人工智能推荐和生成内容的逐步普及，都使网络信息内容安全风险进一步增大，各种违规或不良信息内容的生产、分发与传播等，从政治、文化、经济等维度对总体国家安全产生着重要影响。网络信息内容生态治理旨在从主体、客体、技术以及环境等多个方面对网络信息内容综合治理，其目标是构建一个良好的网络信息内容生态系统，维护公共利益、社会秩序57科 技 情 报 研 究第5卷第4期以及个人权益，切实保证网络空间安全。针对当前网络环境复杂多变的形势与存在的问题，加强网络信息内容生态治理实践并进行理论总结就显得尤为重要，它对形成关于我国网络信息内容治理模式与行动策略转型的规律性认识，确保我国网络安全风险的关键问题得到优先解决，指导我国网络信息内容治理行动实践具有重要应用价值。有关研究也有助于为政府和网络服务平台的内容审查、监管等治理规则的建立提供理论指导，进一步提高国家安全体系与能力建设现代化水平，从而有力推动总体国家安全与网络强国战略的实现。目前国内网络信息内容生态治理相关研究数量庞大、视角多元、层次多样、概念交错，少有学者从网络信息内容生态治理的整体视角进行系统性文献综述。因此，本文利用系统性综述方法对相关研究进行梳理与归纳。2网络信息内容生态治理的概念内涵明确研究主题概念是进行文献综述的前提。由于观察视角、研究着重点等差异，存在诸如网络信息治理、网络内容治理、网络信息内容生态治理等相近概念表述。为避免混淆，有必要对上述概念进行界定，从而更加清晰地明确网络信息内容生态治理的内涵。2.1网络信息内容生态治理的内涵网络信息内容生态是一个系统，由网络信息内容生产、传播以及使用过程中涉及的主体、客体（信息内容本身）、算法、技术以及环境等要素构成3。治理是公私机构或个人经营管理相同事务的诸多方式的总和，是使相互冲突或不同的利益得以调和并且采取联合行动的持续过程4-5。综上所述并结合现有定义334，网络信息内容生态治理是指由政府、平台企业等不同主体共同参与，以网络信息内容为核心，以网络信息内容生产、传播和使用过程中涉及的主体、客体（内容或内容产品）、技术（或算法）、制度与环境等全要素为治理对象，以建构一个良好的网络信息内容生态为目标，以正负面内容对向标示治理、内容生产与分发算法和技术合理使用等为治理方式和方法的总和。2.2网络信息内容治理、网络内容治理和网络信息治理早期的网络信息内容治理即指对不良信息内容的管制，转向“内容生态”指向后，则强调将正、负面信息内容均作为治理对象，并要求在两者的对向标示治理中保持内容聚集整体样态良好445。结合已有观点6，笔者认为网络信息内容治理是指由政府、平台、社会组织、网民等不同主体共同参与，将正、负面信息内容作为治理对象，以构建良好的网络信息内容生态为目标，以实现负面有害信息内容的有效监管和正面优质信息内容的充足投放而使用的方式和方法的总和。梳理“信息”与“内容”的关系是理解和界定“网络信息内容治理”相近概念的前提。信息与数据的定义需要一起讨论，数据是可以被赋予意义或已经被赋予意义的符号或符号集，信息是意义与数据的结合7。内容是事物内部所含有的实质或意义；在哲学上内容是指事物内在因素的总和8。从上述定义来看，内容是信息的内涵物，信息是拥有意义内容的符号或符号集，即声音、数字、图像等符号是信息的外在形式，符号承载的含义是信息的实质内容。而在日常使用中，人们一般不会刻意区分“信息”与其“容纳之物”，而是统称为“信息内容”。因此，网络信息治理、网络内容治理以及网络信息内容治理都可以表示对网络中信息所含内容的治理。但它们也有所区别，相较于“网络内容治理”，“网络信息治理”的内涵更丰富，其治理对象不限于网络信息所含内容，还包582023年10月李炜超，周毅：国内网络信息内容生态治理研究的系统性综述表1 系统综述分析的文献纳入标准维度文献类型研究类型研究对象研究目的研究设计纳入标准同行评议期刊论文原创性研究关于网络信息所含内容的相关问题；与信息内容问题有关的主体、客体算法、技术以及环境等研究实现网络信息内容生态有效治理的各类正式或非正式治理措施和机制对治理问题或治理方式或机制论述详实，优先纳入针对特定治理措施的专门性研究排除标准非期刊论文：如学位论文、书籍、专利等综述、评价、政策计量、文献计量等从网络信息治理、信息管理层面，不区分信息形式与信息内容的研究或只关注信息形式治理的研究其他研究目的，研究网络信息内容问题的产生和变化机制等，如网络舆情传播模型构建仅探讨问题，未提出治理措施；结论只有简单建议思考，没有系统性的治理行动、工具、措施以及机制等；论述简单、研究过程或结构不完整；在已纳入特定治理问题、治理主体、治理措施的专门系统性研究的情况下，排除仅在论文对策简单提及相同措施的文献括网络信息形式层面，如网络信息完整性、可用性以及秘密性等。“网络信息内容治理”中的“信息内容”虽是日常统称，但从其概念在政策和学术论文中的实际使用来看，“信息内容”这一统称是在强调对信息所含“内容”进行治理9，意在和“信息形式”做区分。2.3网络信息内容生态治理与网络信息内容治理网络信息内容治理能够被网络信息内容生态治理所涵盖。从治理对象来看，前者仅聚焦信息内容层面的治理，而后者将网络信息内容生态系统的全要素均作为治理对象；从治理实施主体来看，两者虽然都强调多元主体共同参与，但由于后者治理对象范围更大，所以参与主体要多于前者；从治理目标来看，虽然两种治理目标一致，都是为了构建有序的网络信息内容生态，但后者的目标实现途径比前者更加多维立体。3研究设计3.1研究方法本文采用文献计量法和系统性综述法相结合的方式进行研究。通过文献计量法了解网络信息内容生态治理研究的宏观态势，利用系统性综述方法分析该领域的主要研究问题。3.2文献采集基于上述概念辨析结果并结合初步检索，发现网络信息内容生态治理具有诸多表述，需要采用排除法保证查全率。以 CNKI 作为数据来源，限定来源类别为 CSSCI、CSCD 以及北大核心，文献类型为期刊。检索式为：题名=（网络+互联网+社交媒体+线上+因特网+平台）*（表达+言论+内容+信息+色情+舆情+知识产权+版权+著作权+暴力+谣言+隐私）。检索时间为 2023年 2月 7日，初步检索得到 22 239条数据。对照网络信息内容概念内涵，批量剔除“网络信息系统”“信息技术”“信息检索”“信息组织”等主题的非相关文献，余下6 407篇论文。3.3文献筛选及其流程文献计量法和系统性综述法的文献纳入标准并不一致。文献计量法的标准相对宽松，文献只要与研究专题存在相关性便可作为计量对象；而系统性综述法有严格的纳入标准，文献必须与研究主题密切相关，且文献质量要有一定保证10。因此，对上述 6 407 篇文献可以直接进行文献计量分析，而纳入系统性综述的文献仍需进行查准率控制。本研究参照 PRISMA 制定文献筛选标准与流程11，最终得到 105 篇文献。筛选标准见表 1，筛选流程，如图1 所示。59科 技 情 报 研 究第5卷第4期图1 系统性综述文献遴选流程4网络信息内容生态治理研究的描述性分析4.1年度发文分析国内网络信息内容生态治理研究起始于 1996年，年度发文数量变化趋势可以分为 3 个阶段，如图2 所示。19962008 年的年发文量呈快速增长态势，20082017 年呈高速增长态势，2017 年至 2023 年 2月发文量变化幅度较小。该特征与互联网发展态势基本吻合：20世纪 90年代是 WEB1.0发展起步阶段，21世纪头 10年迈入 WEB2.0时代，21世纪 10年代互联网开始进入移动互联时代12。互联网发展在使网络信息内容更加繁荣，同时也使治理问题更加突出，学界对此也相应给予了更多关注。2017 年前后，以 网络安全法 为代表的系列政策集中出台和网信办等部门联合组织“清朗”专项系列整治行动后，网络信息内容治理成效初显，部分网络信息内容问题得到一定控制，有关研究增长趋势相对放缓。4.2研究热点分析利用 6 407 篇文献的关键词构建共现网络图谱（11 267 个节点，41 986 条边），通过聚类分析获得 7个主要聚类。为进一步分析其主要研究内容，对图谱节点进行过滤，保留度大于等于70的节点（一个节点的度指图中与该节点相连的边数，度越大说明节点在网络中越重要）。如图 3 所示，较大的聚类分别是：网络舆情治理、网络信息内容知识产权保护、社交网络信息传播与隐私保护、网络谣言治理、网络信息安全、网络服务商侵权行为和网络个人信息保护。研究热度基本与网络内容乱象的危害性成正相关，突发事件网络舆情治理是该领域主要研究热点。热点关键词分析显示，当前研究大多倾向于从网络信息内容的某一类具体问题和应用场景出发，聚焦于网络舆情传播治理、网络信息内容知识产权保护、网络用户隐私保护以及网络谣言治理等具体问题，少有文章从网络信息内容生态治理的整体视角出发进行研究，从话语建构与议程设置的高度进行网络信息内容主动建构和治理体系的系统设计446。n602023年10月李炜超，周毅：国内网络信息内容生态治理研究的系统性综述5网络信息内容生态治理研究的系统性分析信息生态系统理论基于生态学、信息学以及系统科学的综合视角，认为信息生态系统是由信息主体、信息客体、信息技术以及信息环境等要素所构成的有机综合体。从起源与发展看，网络信息内容生态治理是对信息生态系统理论的具体运用。所以，在分析105篇研究论文的基础上，基于网络信息内容生态治理的概念内涵，结合信息生态系统的构成要素和信息生态治理等原理要求，本文从网络信息内容生态治理者、治理对象、治理工具以及治理机制对现有研究进行归纳总结。5.1网络信息内容生态治理者学界普遍认为，网络信息内容问题的治理兼具图3 网络信息内容生态治理研究关键词共现图谱图2 网络信息内容生态治理相关论文年度发表数量变化图61科 技 情 报 研 究第5卷第4期系统性和复杂性，需要多元主体协同共治13-18，政府、网络信息内容服务平台、主流媒体、学校、家庭、社会组织与用户等主体都可以作为治理者，并在不同情况下又被区分为施治者与受治者。本节从治理者的角色分工、治理主体失灵以及治理主体的协同优化 3个方面进行归纳。5.1.1治理主体的角色分工政府是公共利益的代言人和公共权力的执行者，被认为应该在网络信息内容治理活动中占主导地位1468-69。政府有责任保护、监督和指导网络信息内容生态朝着对公共利益更有利的方向发展19。政府治理主要通过 3种途径20：一是通过强化制度建设来确立和实现网络信息内容生态治理的目标；二是运用行政手段，开展对网络信息内容生态的“专项运动式”治理，利用技术手段对网络信息内容进行实时监控21；三是通过政府管理创新来扩大政府对网络信息内容管理的影响力，提升网络信息内容治理效能。网络信息内容服务平台承担管理主体责任。平台能够更加直接高效地对网络信息内容进行管理和控制1575-76，被认为是“守门人”22-23。平台履责方式可以归纳为3种：一是有限制负面有害信息内容生产传播的预防与监控义务，如账号管理、实名认证和内容审核等；二是知悉负面信息内容产生和传播后，及时采取删除、屏蔽、下架与断开链接等必要措施的监管救济义务24；三是承担负面有害信息内容违法事件中的相关证据保存、情况报告、报送等附随义务25。许多学者认为，主流媒体在网络信息内容生态治理中应发挥骨干作用，其在主流意识形态宣传、国家形象宣传、政策解读、新闻真实报道、时事评论、网络伦理宣传和受众信息安全素养培养等方面能够发挥重要作用26-28。部分学者认为，学校也是网络信息内容生态治理的参与者之一。学校教育学生在网上应遵守道德与法律，培养学生网络信息内容安全意识与辨别能力，引导学生学会鉴别接受正确信息29-31。一些学者认为，家庭在网络信息内容生态治理中具有教育、引导和照护的功能。对于未成年人，家长可以教育引导他们树立基本的网络道德素养与安全素养，同时限制他们上网的时间与内容范围32；对于缺乏网络经验的老年人，家庭成员可以辅导提升他们的网络信息素养，降低他们遭遇信息内容危害的风险33。社会组织被认为是网络信息内容生态治理的辅助力量1470。社会组织可以自发参与或开展诸如辟谣、网络科普、舆论引导、行业自律等活动，对治理过程中“政府失灵”和“平台失灵”有一定弥补作用34-35。用户参与网络信息内容治理活动的具体形式有发布信息内容、举报、投诉以及监督等1676。而且用户群体中存在一些意见领袖35105，这些用户可以通过发表评论、发布正面优质信息内容作品、宣传、号召等方 式 降 低 或 对 冲 负 面 有 害 信 息 内 容 的 危 害 性影响36-37。5.1.2治理主体失灵政府失灵主要表现为“发包制”缺陷和“条块分割”模式下的内部协同问题。前者指发包制下平台负有主体责任，政府只是监督者，平台容易利用政府监管漏洞谋取利益1576-78，2886，38。后者“条块分割”模式指网络信息内容治理涉及多个部门，由于目标和利益不 同，各 部 门 政 策 的 制 定 和 执 行 都 难 免 发 生冲突1678-79，3441-42。平台治理失灵可以归纳为以下3类：一是被利益所俘获的风险39，例如，平台会为获得流量而放纵“灰色”内容；二是公正性缺乏保障，平台身兼立规、释规与实施三职40，垄断了信息内容的管控权，当个体与平台发生利益冲突时维权较为困难；三是平台自治能力不足，平台承担主体责任使其治理任务繁重，有622023年10月李炜超，周毅：国内网络信息内容生态治理研究的系统性综述超出其治理能力的趋势，因而一些平台为降低成本和减少问责，采取“一刀切”的内容审查方式1677，41。主流媒体遭受新媒体冲击后，影响力有所下降，不再具有话语垄断地位。尤其是在一些突发事件中，传统媒体报道往往缺席、滞后，被自媒体抢占先机，导致其舆论引导失灵，话语权有逐步被边缘化的风险42。当前，网络信息内容安全教育、伦理道德教育以及法律教育的重要意义虽已成为研究者的共识，但在学校教育实践中却表现不佳。从教材和课程设计来看，上述教育内容在信息教育中所占比例较少43-44；从教学目标来看，当前学校教学倾向于知识灌输，而非培养学生的自律精神45；从教学过程来看，相对忽视上述教育内容的教学要求；从教育方式来看，教学较为生硬古板导致教学效果微弱46。家庭对于网络信息内容生态治理虽然有诸多益处，但是也有学者指出，家庭正向治理作用发挥有赖良好的家庭环境与氛围47，需要具备信息素养较高的家庭成员。国内社会组织发展和功能发挥还不成熟，存在法律地位、资金保障、公信力和专业素养等一系列制约因素35104。例如，我国网络行业协会高度依赖政府，他们的监管属性大于社会自治属性，所谓的自律规范往往被商业平台视为监管的另一种延伸手段3442。网络个体用户具有随意性，维权意识以及参与的专业性也较为缺乏，一般情况下，普通个体仅在自身利益遭受严重侵犯时才会主动维权。另外，平台对用户的言论和投诉具有自由裁量权，个体难以做出对平台不利的表达，个体发声效果较小1676，3442。5.1.3治理主体的协同优化针对上述多元主体治理的诸多问题，部分学者提出明确治理理念、完善治理制度以及引入协调力量等对策。理念是行动的先导，作为治理主导者的政府要平衡好“安全”与“发展”理念，在明确不同主体的角色定位、化解利益相关者之间的冲突时，才能更具导向性和针对性1679。完善制度是指进一步完善网络信息内容多元主体协同治理制度，进一步明确网络负面有害信息内容和正面优质内容认定与鉴定标准，并细化各类不同主体的权责清单，形成较完备的主体分工、合作和协同机制449-50，48。引入协调力量，是指通过发挥政府和主流媒体的协调联动作用来促进多主体协同。以政府为主导增强各主体联系，政府需要完成从管理者转向服务者的改革，不仅要增强内部联动，突破科层管理束缚，而且要承担网络信息内容治理活动的宏观调控责任，积极协调各主体间关系1680。媒体具备天然的“连接”属性，由主流媒体发动促成对话平台，整合多方观点以凝聚共识，打通不同圈层之间的壁垒，促进共治格局的形成3443。5.2网络信息内容生态治理的治理对象网络信息内容生态治理的治理对象包括网络信息内容生产、传播以及使用过程中涉及的主体、客体、技术以及背景与环境。5.2.1受治主体网络信息内容生态治理的受治主体对象可以按信息生命周期进一步分为：网络信息内容生产者、网络信息内容经营者、网络信息内容使用者，见表2。表2 网络信息内容生态治理主要受治主体归纳表受治主体对象细分网络信息内容生产者网络信息内容经营者网络信息内容使用者定义制作、复制、发布网络信息内容的组织或者个人不直接生产内容，通过组织生产、运营、操纵网络信息内容，以谋取经济利益或实现政治目的的组织或个人指使用网络信息内容服务的组织、个人或群体具体类型（主要研究对象归纳）自媒体、网络名人、营销号、水军、粉丝等网络信息内容服务平台、网络公关公司、网红经纪组织（MCN）、网络营销公司、敌对势力等未成年人、大学生、老年人等63科 技 情 报 研 究第5卷第4期5.2.1.1网络信息内容生产者网络信息内容生产者是指制作、复制、发布网络信息内容的组织或者个人49。对网络信息内容生产者治理的研究发现，学者们较多关注自媒体、营销号、水军以及粉丝团体等主体。自媒体往往能成为非正式意见领袖，在网络空间中扮演亦正亦邪的角色50-51。由于当前网上恶意营销过多，营销号逐渐具有贬义，它们往往煽动话题或利用网络舆论事件蹭热度52。水军通过虚假炒作、骚扰辱骂等行为牟取非法收入53-55。偏激粉丝群体造成的“饭圈”乱象，容易对网络信息内容生态造成破坏3651，5120-21。综上所述，学者们认为有必要对这类生产者进行妥善管理，在加强监管的同时积极引导。5.2.1.2网络信息内容经营者网络信息内容经营者是指不直接生产信息内容，通过组织生产、运营、操纵网络信息内容，以谋取经济利益或实现政治目的的组织或个人。谋取经济利益的经营主体主要包括：网络信息内容服务平台、网络公关公司、网红经纪组织、网络营销公司等。上述经营主体组织运营内容服务，为社会带来经济和文化效益，但也容易被利益俘获而放纵内容违规行为。所以，学者们认为，针对上述经营者，需要制定规则以约束其经营行为。此外，如何防范具有政治目的的敌对势力56，也是学者们较多关注的问题。敌对势力在网络空间中从事传播宗教极端主义、宣传分裂主义、炒作社会负面新闻、侮辱攻击民族英雄以及攻击和污蔑国家政策等活动56，他们的实体隐匿于境外，甚至设有多重伪装或运用社交机器人等进行活动，对其实施制裁和反制也较为困难。学者们提出，可以从以下 3 个方面进行应对：一是加强监控和识别敌对势力控制的网络信息内容生产者，依法依规对其进行惩处；二是采取删除、阻断传播、反驳、辟谣等手段消弭已造成的负面影响57-59；三是通过稳步发展来缓释社会矛盾，提升公众信息素养，减小敌对势力信息操纵空间35106-107。5.2.1.3网络信息内容使用者网络信息内容使用者是指使用网络信息内容服务的组织或者个人。大学生、未成年人、老年网民等特殊群体与弱势群体是学者们较为关注的对象。大学生被认为是当代网民中一支生力军60，但是他们也容易因冲动或被煽动而发布不当言论，容易听信和传播谣言61。未成年人鉴别力和自控力有限，相较其他群体更加容易受到有害信息内容的危害32113-114，62。老年网民群体信息素养和信息安全意识较低，通常是网络电信诈骗和网络谣言侵害的重灾区。63-65。对于上述使用者，学者们提出需要通过政府引导、媒体宣传、学校教育以及家庭培养等多种途径加以教育。5.2.2治理客体网络信息内容生态治理的客体即网络信息内容本身，其强调将正、负面信息内容均作为治理对象，并要求在两者的对向标示治理中保持内容聚集整体样态良好448-49。负面有害信息内容按危害性质可以分为4类：一是对上层建筑安全有害的信息内容，是指有关国家政权、主权、统一、制度、民族、宗教等跟我国主流意识 形 态 和 政 治 价 值 观 念 相 冲 突 的 网 络 信 息 内容6322-25，66-68；二是威胁社会安全与稳定的信息内容，如挑唆性言论69、唆使或教导犯罪的内容、经济诈骗信息内容、虚假信息、恐慌性谣言等70；三是污染社会文化环境的信息内容，是指背离主流文化、品味低俗且有害身心健康的网络信息内容，如庸俗内容、伪科学内容等32113-114，667；四是侵犯个人或集体正当权益的信息内容，主要表现为侵害知识产权、隐私以及名誉权等权利的内容666，71。目前有关正面优质信息内容的表述较少，散见642023年10月李炜超，周毅：国内网络信息内容生态治理研究的系统性综述于有关网络行为正向引导的策略描述中7027-30，72。根据其正向作用，也可分为 4 类：一是有助于维护上层建筑的内容，主要包括政治制度宣传、国家建设成就宣传、弘扬社会主义核心价值观以及优秀道德文化等；二是促进社会团结稳定的信息内容，有助于社会群体相互理解、化解矛盾并增进团结；三是对国家和社会治理有积极意义的信息内容，如对法律草案建设性的修改意见、对社会事件客观公正的网络评论、对政策解读与释疑内容等；四是对个人身心发展有益的信息内容，包括知识资源和抚慰心灵或安抚情绪的网络信息内容。5.2.3治理技术治理技术是指网络信息内容生产和分发技术，具体包括内容智能创作算法、内容推荐算法、内容弹窗以及内容排行榜等。这些技术让信息内容的传播更加精准和有效，为平台创造了价值与营利空间，为用户带来了诸多便利73，但也带来诸多问题。例如，基于用户偏好的私人定制式内容推荐算法会弱化用户主动搜寻和浏览信息内容的动力，可能造成信息茧房和群体极化74；内容生成和推荐类技术工具的功能实现要基于个人数据挖掘，在缺乏制约的情况下会造成个人隐私泄露75；内容弹窗工具强制用户访问或浏览相应内容，造成用户流量、时间以及情绪损失；内容智能生成算法可能会扩大内容误导风险，深度伪造内容和AI生成偏见内容也易污染网络信息内容环境，有发生信息操纵风险的可能性76-78。学者们认为有必要加强技术规制，提高技术透明度和可解释性。5.2.4治理背景与环境治理背景即现实事件背景，部分网络信息内容问题是现实矛盾的延伸。例如，环保、教育、医疗、反腐、治安等社会现实问题一直是网民的关注焦点，相关事件容易形成网络舆论5021-23，如果在其中掺杂谣言和有害言论内容，往往会导致有害信息内容影响扩大化，引发舆情危机。所以，政府及其有关部门积极回应网络正当诉求、解决现实问题、抚平矛盾是解决此类问题的根本途径79-80。网络信息内容生态是现实世界社会环境的映射81，现实世界社会环境是网络信息内容生态繁衍的土壤，大部分网络信息内容生态风险追根溯源都有其现实环境诱因。政治团结稳定、经济繁荣发展、文化积极向上的社会环境才能有条件构建一个良好的网络信息内容生态系统。所以，网络信息内容生态生成环境的治理是一个持久过程，不断推进政治、经济、文化治理是实现网络信息内容生态善治的战略性保障82。5.3网络信息内容生态治理工具当前，有关网络信息内容治理工具的划分大都是基于政府为施治者的视角，依据政府介入程度进行分类83-84。然而，在网络信息内容生态多元主体协同共治格局下，这类划分方式已略有不适。有学者指出，在承认治理主体多元性的基础上，治理工具可以按治理靶向和行动逻辑进行分类85。据此，将已有研究中出现的网络信息内容生态治理工具分为：规制型工具、促进型工具和教育引导型工具。5.3.1规制型工具规制型工具是指有关主体利用其权威性、强制性力量，以约束和控制网络负面信息内容生产、传播和使用为靶向所采取的各种方法和手段。规制型工具是研究者们在网络信息内容治理对策中提及最多的工具，现有研究中的施治者主要有政府、网络信息内容服务平台和家庭。当施治主体是政府时，受治对象主要是网络信息内容生产者、经营者、使用者、负面有害信息内容、背景以及技术。政府规制型工具主要是制度制约和行政手段。网络信息内容治理制度制约包括：对负面65科 技 情 报 研 究第5卷第4期有害信息内容范围的界定；对以算法为代表的网络信息内容生成与分发技术分级、分类、审查以及备案等事项的规范；对相关主体权利、义务、禁止和许可事项的规定8378，86。具体形式有法律、行政法规、部门规章及地方法规等。当前，国内网络信息内容治理政策体系呈现出法律部门的跨域性、法律位阶的多元性、义务主体的多样性等特征87。例如，针对网络信息内容治理的专门政策有 网络信息内容生态治理规定 互联网信息服务算法推荐管理规定 互联网新闻信息服务管理规定 互联网信息服务深度合成管理规定 等，但它们的效力位阶较低，仅是部门规章，而效力较高的相关政策散见于 网络安全法 数据安全法 个人信息保护法 民法典 等法律中8491-92。行政手段包括行政命令、行政许可、行政备案、行政检查、行政处罚、行政公诉、信息监控等8377-78，88-89。其中，在数智化浪潮推动下，信息监控手段的作用越发突出，政府借助大数据技术和人工智能技术可以实现对网络信息内容生态的实时监测、评估与预警。当施治主体为网络信息内容服务平台时，受治对象是平台用户和负面有害信息内容。平台规制型工具一般是平台内部规则和平台管理措施。平台内部规则是平台通过用户使用协议或社区公约对用户权利和义务进行说明，也包含对负面有害信息内容的界定，具有强制性90，如果用户不同意，则会导致平台功能使用受限。平台管理措施是对其规则的实施，包括网络信息内容管制和用户管制。网络信息内容管制的具体形式包括：内容审核、内容分级标识、内容过滤、内容删除、内容传播控制等91-93。用户管制既包括用户实体管制，也包括用户账号管制，具体形式有：账号注册实名认证、资格认证、黑名单管理、账号限制与注销、依约索赔、依法追责等94-95。值得注意的是，当前算法技术逐步成为平台管理内容和规制用户的有效工具，具体包括：用户隐私信息内容智能识别与隐藏算法、负面有害信息内容识别与过滤算法、未成年人冒用成人账号识别算法等96-98。当施治主体为家庭时，受治对象是未成年网络用户与负面有害信息。家庭监护人为保护未成年人网络用户身心健康成长，会采取一系列具有强制性的监护措施，对未成年人的网络使用时间和内容浏览范围进行控制99-101。规制型工具具有直接和强效等特点，但其也存在一些问题。例如，政府的制度规制和行政手段可能会面临执行难的问题，需要平衡网络信息内容的管理和自由表达的权利。平台内部规则和管理措施的约束力可能存在一定局限性，需要平衡平台商业利益和用户需求。家庭控制工具可能会受到技术限制和未成年人反感的影响，需要平衡监护和自主成长的权利。因此，在网络信息内容生态治理中，规制型工具需要与其他治理工具相结合，形成多元化、综合性的治理体系，以实现网络信息内容生态的健康有序发展。5.3.2促进型工具促进型工具是指有关主体以促进正面优质信息内容的生产、传播以及使用为靶向，所采取的各种方法和手段。现有相关研究内容大多散见于负面有害信息内容治理对策中，施治者主要是政府、社会组织、主流媒体、网络信息内容服务平台。当施治者是政府时，受治对象主要是正面优质信息内容和网络信息内容产业，相应的促进型工具是内容投放与转发和产业扶持政策。政府利用网络技术和新媒体力量传播党的主张、弘扬主流价值、密切与群众的联系，正在成为普遍共识102-103。政府影响力较高，是天然的意见领袖，在网上直接投放或转发正面优质内容既可以扩大传播范围，也可以提升用户对内容的接受度。产业扶持政策是政府通过财政补贴、融资支持、税收优惠、政府采购、设立发展基662023年10月李炜超，周毅：国内网络信息内容生态治理研究的系统性综述金、设置奖项、创新服务、人才培养等手段推动网络信息内容产业发展104-107，从而促进正面优质网络信息内容产品的充分供给。但是，这类政策的主要目的是促进产业发展和带来经济效益，调节网络信息内容生态可能是次要目标。社会组织和主流媒体使用的促进型工具也是扩大宣传，利用他们的社会影响力增加正面优质信息内容的传播度和受众认可度2668，106131。当施治者为网络信息内容服务平台时，受治对象是网络信息内容生产者和正面优质内容本身，相应的促进型工具主要有现金激励、人员培训、流量扶持等5120。优质内容是他们营利的基础，他们需要通过上述工具来激发生产者的创作动力，提高他们的创作能力，从而提升内容产品质量。总体来说，促进型工具可以促进正面优质信息内容的生产、传播和使用，从而提高网络信息内容生态的整体质量和稳定性。然而，当前促进型工具较少，工具之间联系配合也较为缺乏，需要加大设计研发力度。同时，促进型工具的效果也需要不断监测和评估，以便及时调整和改进。5.3.3教育引导型工具教育引导型工具指施治者为引导受治者配合网络信息内容生态治理采取的各种教育方法和手段，其施治对象是网络信息内容使用者、生产者与网络信息内容服务平台。具体形式包括：信息公开、辟谣、教育、宣传、倡议、约谈、通报批评等，在实践中这些工具同样借助数智技术提高其效能，如构建网络信息公开平台、辟谣平台、线上教育平台以及借助社交媒体跨平台宣传等108-110。教育引导型工具可以通过多种手段和方式，引导和激励受治者更好地配合治理工作，从而促进网络信息内容生态的健康有序发展。5.4网络信息内容生态治理机制网络信息内容生态治理机制多指协调各个要素之间关系，具体运行方式可分为宏观和微观 2 个层面。宏观层面是指顶层制度及其组织和运行方式，包括网络信息内容治理的“看门人”机制、第三方群体参与机制以及多元主体协同治理机制等1397-98；微观层面是指具体治理措施和手段及其配套、组织和运行方式，诸如网络信息内容传播控制机制、不良信息过滤机制和内容传播促进机制等9321-23。微观层面的网络信息内容生态治理机制按其效用发挥阶段可以分为事前、事中和事后 3 类。事前阶段是指在内容创作者内容创作或上传前；事中是指内容上传后至早期分发或传播阶段，内容未完全分发到用户；事后阶段是指网络信息内容在社会中已广泛传播。根据上述定义，绘制一份内容从诞生到在网络上产生广泛影响的全过程模拟图，并进行分区，如图4所示。图4 网络信息内容生态治理机制效用发挥阶段分区示意图67科 技 情 报 研 究第5卷第4期5.4.1事前治理机制事前治理机制包括预防机制、鼓励动员机制以及主动生产投放机制等，如图5所示。预防机制，是指对网络负面有害信息内容生产前进行预防的机制。预防机制的施治者主要是政府、网络信息内容服务平台、主流媒体、学校、家庭以及行业组织，受治者是网络信息内容生产者、经营者以及生产技术，主要采用的治理工具是教育、警示、审查和公约2983-84，9680-83。预防机制通过多主体和多途径的教育、警示和约束，提高网络信息内容生产者、经营者、算法研发者和使用者的自律性，自觉维护网络信息内容生态环境，主动生产投放正面优质信息内容。通过政府、平台以及行业组织等平台联合审查，构建准入门槛，将不良网络信息内容生产者、经营者和违规技术提前排除在网络之外。鼓励动员机制，是指采取系列激励措施动员相关图5 网络信息内容生态治理事前预防机制示意图网络信息内容生产者创作与投放正面优质内容。在鼓励动员机制中，政府和网络信息内容平台被认为是主要施治者，网络信息内容生产者是受治者，治理工具主要有倡议、补贴以及奖项等4914-15，10416-19,105131，10616-17。事前治理机制是一种低成本、高效率的手段，它直接针对网络信息内容的生产和传播源头进行介入，通过引导网络信息生产者和传播者遵守一定的行为规范和道德准则，有效减少负面有害信息内容的产生和扩散。5.4.2事中治理机制事中治理机制包括：信息内容监控识别机制和信息内容传播控制机制，如图 6 所示。在信息内容监控识别机制中，施治者主要是政府、网络信息内容服务平台以及用户，受治对象是负面有害信息内容和正面优质信息内容。政府负责对平台在线内容池中的内容进行实时监控；平台负责对用户上传内容进行审核，对已发布内容进行巡查和监控；用户负责对负面有害内容或平台进行举报和投诉。信息内容传播控制机制包括：负面有害信息内容阻断、正面优质信息内容促进和信息内容分发技术规制。阻断传播，是指在通过信息监控识别机制发现负面有害信息内容后，由平台或政府采取信息内容过滤、信息内容屏蔽、信息内容限流以及信息内容产品下架等措施1847，23118-120，2494-98，2547。传播促进，是指识别到网络正面优质信息内容后，通过政府转发10255、平台流量扶持以及用户扩散等方式推动其传播。信息内容分发技术规制，是指政府针对内容推荐算法、信息弹窗、内容榜单等，对内容传播与影响力扩散有较大作用的技术进行管制，对违法滥用行为进行依法阻断和处置。事中治理机制的核心是及时发现和处理负面信息内容，及时推广传播正面信息内容。事中治理机制682023年10月李炜超，周毅：国内网络信息内容生态治理研究的系统性综述不仅可以及时监控和识别负面有害信息内容及相关分发技术，有效阻断和控制其危害扩大化，还可以促进正面优质信息内容的生产传播。然而，在具体实施中，仍然还存在政府监管力度不足、平台审核不严格、用户举报不积极等问题，需要进一步加强治理措施和监督机制，引入先进技术的同时加强人机协同，提高事中治理的效果和水平。5.4.3事后治理机制网络信息内容生态治理的事后治理机制包括惩戒机制、影响消弭机制以及奖励机制，如图7所示。从惩戒机制来看，政府依法依规对违规主体进行约谈或处罚49，9656、平台依据其自治制度对违规信息内容生产者进行处罚、媒体对违规主体进行曝光以及行业组织对违规企业进行内部通报等措施，可以在一定程度上起到震慑作用，减少网络有害信息的产生和