技术路径下网络暴力治理的共治模式探究.pdf

青年记者2023年8月上86新闻与法 路 鹃 张君昌技术路径下网络暴力治理的共治模式探究摘 要：为了惩治日益高发的网络暴力违法犯罪行为，最高法、最高检及公安部三部门联合出台 关于依法惩治网络暴力违法犯罪的指导意见（征求意见稿）（简称 征求意见稿），明确了以往在网络暴力追责中界定、表现和法律救济等难点。本文基于法条释义与比较研究的方法，认为征求意见稿的立法亮点在于充分纳入技术型思维和平台逻辑提出共治模式是网络暴力的治理方向：除了在正式文本中继续完善相关条款设计，还应在数据合规与用户管理方面继续夯实平台责任。关键词：网络暴力；平台责任；媒介技术；网络治理近年来，网络暴力（下文简称“网暴”）现象虽屡经整饬仍时有发生，在污化网络生态的同时，也给网暴的受害者造成无端精神创伤，有的甚至危及生命。仅 2022年 11 月至 2023 年 3 月间，国家网信办拦截清理的网暴信息就达 2875 万条。1厘清新型网暴的特点、类型和规则难点，辨析两高一办对于惩治网络暴力犯罪的立法亮点和举措，据此探求网络暴力治理的未来发展模式尤为重要。网络暴力为何禁而不绝我国连续出台互联网信息服务管理办法 网络信息内容生态治理规定 关于切实加强网络暴力治理的通知等法律法规、行政规章。总体思路是先发展，后治理，但网络技术的快速迭代和法律滞后性的矛盾在“互联网+”时代更加突出。平台的崛起降低了网民参与社会表达的门槛，网暴发生的底层逻辑正是基于这种“泛众化”表达。平台离网暴发生的场域最近，在履行监管主体责任方面具有先在优势。早期在网暴事件进入司法阶段时，相关法律法规对平台更多强调的是事后介入干预，平台也常以提供技术服务的“中立者”自居2。但当下社交传播、算法分发已成主流，在“信息茧房”内形成观点表达的“千人千面”，对网暴当事人的名誉、隐私、个人信息等法益的毁损更加严重。视频合成技术和其他技术的普及，使得网友发表言论打破时空的限制，加速了真假信息的鱼目混珠。3在治理与流量具有天然矛盾的生态下，不少平台存在责任认知不充分、履职尽责不到位、制度机制不完善等问题，监管义务的履行大打折扣。这意味着我国网络架构与平台责任监管应当超越形式性的中立性要求，迈向更为实质性的治理型监管，4应重点发挥平台作为信息内容管理第一责任方的作用。网络暴力追责难在何处在网络几乎深度链接每个人的当下，网暴的形成和蔓延具有明显的主观操控性和被动从众性5，并随着网络技术的迭代在不同平台间跳转，呈现出规模化、组织化、产业化的特征，大大加剧了追责的难度。一是取证难。相较于“传统”暴力，网络暴力在主体、行为、主体关系、动机、损害结果、因果关系方面都发生了重大的变化。6随着网络技术下沉式发展，网暴呈现出行为地点上的虚拟性与对被害人造成实际损害结果的现实性，具有参与人员多、证据难以固定、责任难以分配等特征。如果加害者自行删除帖子或评论，痕迹只能储存在服务器中，根据法律规定，平台并无法定职责或法定义务对外披露用户发帖记录和删帖记录，导致取证存在很大难度。二是维权难。即使受害者找到了网暴始作俑者，凭个人的力量收集了固定证据，也还需证明对方犯罪事实清楚，证据充分、某一特定言论与最终不良结果之间的证据链确凿。大多数情况下，网暴是群体性行为，难以确定哪条评论是击垮受害人心理的致命稻草，也就难以追究个人责任，已有判例大多对首发者实施追责，震慑力度有限。三是认定难。此前关于不同程度的网络暴力治理依据散见于民事、行政、刑事等多个部门法，零散且相互冲突，并存在立法表述模糊、惩罚力度轻微、缺乏有效衔接等问题，导致各方虽然都涉足网络暴力的治理却都力有不逮。7征求意见稿的突破：将技术思维和平台逻辑纳入立法框架（一）对网络暴力违法犯罪的界定充分考量了技术特征如何定义网暴，什么样的语言算网暴，此前学界业87青年记者2023年8月上新闻与法 Media&Law 界众说纷纭。人民日报归纳了“网络暴力”的三大特征：（1）以道德的名义，恶意制裁、审判当事人并谋求网络问题的现实解决；（2）通过网络追查并公布传播当事人的个人信息（隐私），煽动和纠集人群以暴力语言进行群体围攻；（3）在现实生活中使当事人遭到严重伤害并对现实产生实质性的威胁。8征求意见稿的一大突破，就是对网暴行为作出了类型化区分，明确了五类明确属于网暴的行为。在五类行为中正式将“人肉搜索”明确为侵犯公民个人信息行为，并对人肉搜索内涵进行界定，即在信息网络上违法收集并向不特定多数人发布公民个人信息。这种界定准确覆盖了新型网络暴力犯罪行为的传播特征，如社交媒体、网络社区、信息平台和新闻的留言互动性和话题性较强，很容易引发不同观点的争论并形成冲突，微信朋友圈和QQ 的群组就具有上述传播特点。微博作为社会舆论的主要集散地发挥社会监督功能的同时，也成为网络暴力最为猖獗的平台。9而在舆情演化路径中，短视频平台更多扮演“中间人”角色。这种传播特征的差异是由各网络平台所应用的技术产品的差异所决定的。征求意见稿还针对上述五类网络暴力行为对刑法条文的适用作出了指引。明确了网络暴力行为的犯罪适用法律，明确从重处罚的情形，特别指出要对发布“深度合成”技术生成的违法或者不良信息，违背公序良俗、伦理道德的内容从重处罚。明确了需要重点打击的情况，同时为避免对网络暴力信息的延展性理解，对防止打击的扩大化作出了限定，为定罪量刑提供了依据，或可解决以往判定罪名难的困境。（二）以平台为切入点利于解决以往取证难、维权难的困境征求意见稿明确了自诉转公诉的方式和情形，在刑事罪名中，侮辱罪和诽谤罪一般属于自诉案件。在以往的相关司法解释中，对点击量和浏览量有明确规定，但此类网络暴力相关案件由自诉人收集证据并达到事实清楚，证据确凿、充分的证明标准难度很大，自诉转为公诉的案例在网络暴力犯罪案件中为数甚少。大多数网暴事件维权过程中的最大难题就是通过个人途径难以找到“网络马甲背后的人”，以及相关言论被删除后导致证据缺失。102020 年的“杭州女子取快递被诽谤案”原为刑事自诉案件，由于检察机关积极履行法律监督职责，主动提出建议，当地公安机关对两名涉案人作为公诉案件依法立案侦查。11江歌案的代理律师称，由于网暴受害者取证困难，往往很难在法院自诉立案，而在专门明确公安机关协助取证的责任后，未来在实践中将有效帮助网暴受害者自诉维权。12征求意见稿专门明确公安机关协助具有更强纠纷解决能力的组织和机关介入，对个人信息的保护更具专业性、权威性和便利性。2015年3月起，我国实行“网络实名制”（以“前台自愿、后台实名”为原则），技术层面上，网络 IP 地址等信息都能追踪到信息发起人，平台掌握着所有网民的真实信息，在网络证据被人为删除后，平台也能利用技术优势对证据进行保全和固定，网络事件转为公诉后，平台协助公安机关办案就转为法定义务。征求意见稿所规定的打击对象和处罚手段，主要承担者多为网络信息服务提供者，这大大强化了平台的责任，也将在现有基础上进一步提升平台的合规成本。此前不少网暴事件都与平台及营销号的助推有关，绝大多数网暴事件中都有个人微信聊天记录被曝的情况，如此涉及个人隐私的内容能在网上轻易流传，平台明显没有起到监管责任，且存在为吸引眼球放弃对用户个人信息权以及隐私权的保护的嫌疑。（三）明确重点打击对象，依法适用人格权侵害禁令制度征求意见稿提出要“准确把握违法犯罪行为的认定标准”，包括通过网络检举揭发违法违纪行为，只要不是捏造事件或故意散布，不应当被认定为诽谤犯罪；批评性言论即使观点有所偏颇或过激，只要不是肆意谩骂、恶意诋毁的，不应当认定为侮辱违法犯罪，这是限制刑罚权的滥用，防止走向另一个极端，是全面依法治国、依法治网的体现。为了制止正在发生的危害行为，权利人有权依据民法典第九百九十七条向人民法院申请采取责令行为人停止有关行为的措施，作出人格权侵害禁令。同时，人民检察院可以依法向人民法院提起公益诉讼。之前尚未见过人格权侵害禁令应用于网暴事件的先例，人格权侵害禁令可以保护被侵权人的名誉权，不再对被侵害人进行更进一步侵权。13征求意见的过程，也将是在内容监管和平台责任上找到适合的“度”的博弈过程。平台是网络信息（包括网络暴力信息）的主要获益者，只有利没有责，网络信息难以遏制；只有责没有利，平台经济难以为继，在新媒体形态下，本着权责利一致原则，强化平台责任是方向，实现权责利平衡是目标。14网络暴力治理的完善方向徒法不足以自行，在探索网络暴力法治化治理的进程中，也需要认识到技术路径下网络暴力治理的全新共治模式。除了行政与司法无缝连接，更需要政府、社会与平台同向而行。既要完善相关的法律制度，规范网络行为，保护公民权益，也要利用技术手段，让网络平台承担起监督和管理责任，协助查处网暴事件。首先，在正式文本中继续完善征求意见稿的条款设计青年记者2023年8月上88新闻与法例如，关于“严重危害社会秩序的标准”，既往对网络侮辱、诽谤基于数量的认定并不合理，侵权条件过低容易满足，在实践上容易导致“泛法律化”的风险。征求意见稿采取了“数量+实质侵害”的认定标准，但仍较为抽象，对于网络聚量性侮辱诽谤行为的首发、多发、煽动发布、用于牟利（赚取流量）等都应认定为情节严重，同时还应考虑事件类别、针对主体、参与人数、信息内容、发布频次、应用场景等进行多元化、综合性认定。15此外，网络检举揭发过激言论的出罪标准还须进一步细化。事实上，行为人侵犯他人人格权益的行为动机，无论是出于所谓的道德批判，抑或是恶意诋毁，动机的恶意与否并不影响行为本身的人格权益的侵害性。16在网络聚量性侮辱诽谤犯罪的聚众效应日渐增强的背景下，诸多在平时看起来刺眼但可接受的语言异化为语言暴力。征求意见稿第 10 条采取相对宽容的自由裁量空间，即“针对他人言行发表评论、提出批评，即使观点有所偏颇、言论有所过激，只要不是肆意谩骂、恶意诋毁的，不应当认定为侮辱违法犯罪”。这既可能造成对征求意见稿相关设计的适用排除，也可能导致对它的滥用。应该在坚持责任自负的前提下，对于侵害他人人格权益的行为合理化入罪，对侮辱诽谤的发起者和积极参与者追究相应刑责。另外，征求意见稿仍未解决某一特定言论与造成后果之间是否存在直接联系的认定困境。即使转入公诉程序，也是证明链条上潜在困难最大的一环。17对一些行为之间的因果关系，仍有待细化、明确。网络暴力行为参与者众多，因果链条极为复杂，在每个人都只是非常轻微、整体上却造成巨大恶果的情况下，谁究竟应当承担刑事责任？仍待正式文本予以明确。其次，明确平台数据合规责任，积极实现事前技术防范，完善一键保护功能自 2022 年起，各互联网平台在国家政策倡导下，陆续推出各类一键式网暴防护功能，但面对一些谐音字、变体字，或是一些隐晦侮辱，拦截效果难以兼顾“快速”与“精准”，且相较于公共评论区，私信更容易成为施暴者肆意发泄恶意的隐蔽角落。而从法律角度看，私信互动具有私密性，涉及公民隐私权的保护，平台没有权力去监控用户的每条私信，私信的防网暴监控面临着客观困难。因此，平台还应在法治框架内继续对网络暴力现象进行深入挖掘、动态监测和风险评估，从而实现自然语言处理技术层面对网络暴力行为认定标准的一致性，让一键式网暴防护功能更加完善。再次，平台应在用户管理方面作出技术调整平台不仅需要对信息进行自动审核、信息折叠和过滤清理，还应努力实现对网络暴力行为者进行信用评估和惩戒，完善网络空间的身份验证与行为追踪机制。对于违反规定的网络用户，平台应视情节严重程度给予账号处置措施，涉及网暴的违法账号，对其注册人和实际控制人也需要及时调查追究责任，构建良好的网络互动生态。支持平台以技术手段保存证据。在合规情况下，平台可通过区块链技术，确保信息流动有序且可追溯，记录暴力信息的完整传播链条，后续司法裁判提供事实依据。从制度和技术上逐步形成平台方在信息内容管理层面阻止网暴骚扰、清除网暴信息和追究网暴责任的完整链条，未来还应继续加强网络暴力的溯源性和预防性研究，探寻源头治理之策永远优于事后法律追责。【本文为国家社科基金一般项目“5G 时代短视频生产与传播的网络安全引导体系研究”（批准号：20BXW108）阶段性成果】参考文献：1 刘育英.国家网信办：去年 11 月以来拦截清理涉网络暴力信息2875万条EB/OL.(2023-03-26).https:/ 丁晓东.网络中立与平台中立中立性视野下的网络架构与平台责任 J.法制与社会发展，2021(04):122-142.3 支振锋，朱巍，等.关于完善网络暴力法律规制的讨论 J.青年记者，2023(13):84-87.4 展鹏贺，罗小坤.互联网平台分级监管的法理逻辑与路径完善基于欧盟数字服务法的比较观察 J.湖南大学学报(社会科学版)，2023(03):72-79.5 王枫梧.犯罪场视域下网络暴力犯罪的控制 J.山东警察学院学报，2022(03):96-103.6 王静.数字公民伦理：网络暴力治理的新路径 J.华东政法大学学报，2022(04):28-40.7 刘艳红.理念、逻辑与路径：网络暴力法治化治理研究 J.江淮论坛，2022(06):21-30+2.8 邱凌.网络暴力的新特征：随意化、平等化、游戏化基于对 QQ“对骂群”的实证分析 DB/OL.(2019-01-13).http:/ 何嘉琪.以微博为例浅析网络暴力现状及规范化道路 J.新媒体研究，2016(24):5-6.10 耿学清.“惩治网暴 20 条”能否让普通公众免于网络暴力 DB/OL.(2023-06-12).https:/ 最高人民检察院第三十四批指导性案例 DB/OL.(2022-02-21).https:/ 刘嫚，等.从取证难到自诉难，整治网暴“按键伤人”需 破 解 几 重 困 境?DB/OL.(2023-06-14).http:/ t_10400.htm.13 张馨予.三部门联合发布指导意见惩治网暴，释放何种信号？DB/OL.(2023-06-19).https:/ 顾左右.为治理网暴立规矩，强化平台责任是方向 DB/OL.(2023-07-07).https:/ 于冲.网络“聚量性”侮辱诽谤行为的刑法评价 J.中国法律评论，2023(03):87-98.（路鹃：北京体育大学新闻与传播学院副教授、博士生导师；张君昌：中国广播电视社会组织联合会学术委员会秘书长，高级编辑）