![点击分享此内容可以赚币 分享](/master/images/share_but.png)
人工智能“换脸”风险的法律治理模式.pdf
《人工智能“换脸”风险的法律治理模式.pdf》由会员分享,可在线阅读,更多相关《人工智能“换脸”风险的法律治理模式.pdf(7页珍藏版)》请在咨信网上搜索。
1、2024 年 3 月 第 39 卷 第 1 期 邢台学院学报JOURNAL OF XINGTAI UNIVERSITYMar.2024Vol.39,No.1法 律人工智能“换脸”风险的法律治理模式杨瑾瑜(安徽师范大学新闻与传播学院,安徽芜湖 241000)摘 要:人工智能“换脸”技术被误用和滥用,给个人权益、社会稳定乃至国家安全带来的风险不容小觑。立足本土语境,借鉴国外相关政策与法规,以“换脸”传播的介质与场域 互联网平台为中心,来构建人工智能“换脸”的法律治理模式。从平台责任着手,首先明确互联网平台作为“换脸”的管理主体,平台守好监控、审核关;其次,强化平台的法律责任特别是刑事责任,通过立法
2、给平台施加更多的审查义务;最后,同样立足平台,由政府部门指派的网络安全专员与符合条件的用户、平台管理人员在平台组成仲裁委员会,政府-平台-用户协作建立“换脸”仲裁机制。关键词:人工智能“换脸”;风险识别;法律治理;平台责任中图分类号:D913文献标志码:A文章编号:1672-4658(2024)01-0050-07引用格式:杨瑾瑜.人工智能“换脸”风险的法律治理模式J.邢台学院学报,2024(1):50-56.收收稿稿日日期期 2023-08-28 作作者者简简介介 杨瑾瑜(1981-),女,河南信阳人,毕业于南京大学,讲师,法学博士,主要从事数字治理研究.一、问题的提出就技术而言,“换脸”是
3、人工智能与机器学习的产品,代表人工智能机器学习领域最新的技术进展。基于深度神经网络的机器学习,模仿人脑工作的模式,通过人工神经网络的一系列节点来处理信息。对于复制图像的神经网络来说,必须从特定的源代码(也称为输入层)接受大量信息,然后传递到很多不同的节点,直至生成输出层。“换脸”是在这个过程中再添加一个复杂的层,最终有两个输入层:原始视频的脸,要换到原始视频上的脸。计算机为这两个输入层分别搭建两个中立的神经网络,并且分开训练,使其相互对抗,即为生成对抗网络(GANs)1。这两个网络重复对抗,生成越来越趋于真实的“赝品”2。越来越精密的机器学习算法以及价格适宜、容易上手的视频编辑软件,让越来越多
4、的人可以制作“换脸”影像。“换脸”一旦被恶意利用,会造成很多危害。人工智能“换脸”技术的风险与治理还是一个比较新的议题。2018 年初至今,国外学界对于“换脸”侦测与鉴定技术的讨论保持较高热度,其主要关注点是“换脸”技术的法律规制。相对而言,国内关于人工智能“换脸”风险与治理的研究文献数量较少,目前找到的几篇文献主要关注“换脸”的伦理问题与隐私风险,以及“换脸”的法益侵害性与法律责任体系构建等。研究的焦点是“换脸”的刑法规制路径,尤其是如何加强对个人信息的刑法保护。基于当前研究,需要对人工智能“换脸”风险进行比较全面的分析和梳理,关于治理路径的建设也要着眼于“换脸”影像传播的介质与场域。因此本
5、文着力识别人工智能“换脸”的关键风险,并以互联网平台为核心,构建人工智能“换脸”的法律治理模式。二、人工智能“换脸”关键风险的识别人工智能“换脸”带来的风险,“相对于那第 1 期杨瑾瑜:人工智能“换脸”风险的法律治理模式51 种传统或自然的不变性和固定性所带来的外部风险,这种与科技发展和知识进步相伴而生的风险是一种被制造出来的风险”3,给个体权益、社会秩序与国家安全造成的影响不容小觑,同时也给现行的法律责任体系带来新的挑战。(一)个人信息安全风险人工智能“换脸”威胁个人信息安全。“换脸”影像及其背后不怀好意的制作者及传播者破坏了网络信息生态,因互联网去中心化的信息传播模式,以假乱真、蒙蔽视听的
6、“换脸”影像及其引起的好奇心甚至窥私欲等,不断冲击着个人信息尤其是人脸信息的安全屏障。网络安全法 第七十六条第五款规定:个人信息包括但不限于“自然人的姓名、出生日期、身份证件号码、个人生物识别信息、住址、电话号码等”。人脸具有生理性、标识性等特征,因此毫无疑问属于个人信息中的生物识别信息,其他如指纹信息、声音信息等也都属于生物识别信息。生物识别信息的主体是唯一的,如果人脸信息被挪用,比如他人曝在社交网络上的照片或视频中的人脸被用来制作“换脸”视频,个人信息权益就会被损害。社交网络公开与分享程度过高以及人脸信息保护意识薄弱的问题,使得“换脸”造成的个人信息安全风险完全暴露出来。大数据与人工智能时
7、代,“人脸”信息被恶意使用的法益侵害性及社会损害性远超前大数据时代。2018 至 2019 年,美国的“换脸”影像成倍增长,百分之九十以上的“换脸”都是色情的4。“换脸”类色情影像的危害后果渗透进受害人生活的方方面面,不仅损害受害人性私隐,线上传播的持久性也影响她们网络求职,因为谷歌搜索覆盖“换脸”色情影像。但影像中私密的身体部分不属于受害人,因此也很难以侵犯隐私权提出诉讼。回到我国本土语境,制作“换脸”类色情视频甚至出售,可能构成侵犯公民个人信息罪。根据 刑法 第二百五十三条之一,侵犯公民个人信息罪的量刑标准是“出售或非法提供”、“窃取或非法获取”。“换脸”类色情视频使用的替换人脸是否为“非
8、法提供”或“非法获取”,要看被侵害人能否举证,这里的问题是明星以及其他公众人物的人脸信息都散播在网络上,普通网民也会在社交平台分享个人照片与视频并公开可见,这就造成举证困难。(二)侵权风险国内的视频平台也充斥着大量的“换脸”视频。在 B 站(哔哩哔哩弹幕网),很多公众人物都遭遇过“换脸”,例如六小龄童、雷军、吴亦凡等被“换脸”到蔡徐坤的音乐 MV 和广告片中。人工智能“换脸”可能侵犯民事主体最基本、最重要的权利 人格权,包括肖像权、名誉权等。根据 民法典 第一千零一十九条规定:“任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权”,“换脸”视频显然属于信息技术手段
9、伪造。虽然在形式上与言语、文字侮辱不同,但带有恶意甚至侮辱性的“换脸”影像同样会贬损当事者的名誉以及人格尊严,因“人脸在社会文化中的意义和功能,使其内在蕴含着人的尊严”5,没有经过知情同意而进行换脸是对人尊严的冒犯。另外,影视剧、音乐 MV、广告片的片段被用来制作“换脸”视频,也涉及到是否侵犯这些原始视频著作权的问题。在国内外的学术讨论中,如何处理“换脸”视频的著作权争议,始终未有定论。美国有法学者提出在著作权法的框架下,即使拥有原视频版权的人向法院起诉制作者侵权,也很难胜诉6。(三)侮辱、诽谤等犯罪风险明星蔡徐坤起诉 B 站的律师函称 B 站部分视频内容“故意诽谤,滥用肖像”,并且严重到“其
10、中部分个人和自媒体等已经涉嫌构成刑事犯罪,造成了极大的不良社会影响”7。这些被原告方认定侵权甚至构成诽谤罪的内容包括“换脸”视频。不仅是公众人物,普通公民尤其是女性,都可能成为“换脸”影像尤其是“换脸”色情影像的受害者。有女学生曝在社交网络上的照片被盗用,被制作成色情“换脸”视频并上52 邢台学院学报第 39 卷传到视频网站,甚至还因此遭到网站工作人员性勒索。还有女记者被“换脸”到色情视频中,并遭受电话恐吓。“换脸”类色情视频可能构成侮辱罪、诽谤罪和敲诈勒索罪。在我国,目前除涉及肖像权外,对人工智能“换脸”造成的侵权问题以及可能构成的刑事犯罪,相应的法律责任体系还不完善。在美国也存在同样的问题
11、,通信规范法 第 230 条和 第一修正案,成为补救“换脸”类色情视频受害者的难以克服的阻碍8。根据 通信规范法第 230 条,发布“换脸”类色情影像的平台将免于处罚。即使联邦法院认定“换脸”色情视频是淫秽,根据 通信规范法 第 230 条,发布视频的平台依然免责。受害人别无选择,只能控告视频制作者,但制作者一旦从互联网消失,就很难追踪。即使受害人找到制作者并提出诽谤诉讼,但如果制作者辩称视频是伪造的,并非真实呈现被“换脸”的那个人的行为,诽谤罪就很难成立。受害人还面临一个问题是要证实制作者故意造成对她们的精神伤害,这又给赢得诽谤诉讼增加了难度9。(四)“换脸”诈骗风险超现实主义的人工智能“换
12、脸”,呈现某人从未说过的话、做过的事,深度伪造达到“以假乱真”的地步,欺骗就有了无尽的可能10。直播、视频交易、人脸交易授权等都有可能被人工智能“换脸”欺骗。以“换脸”进行身份冒充,直接威胁个人与企业财产安全。“其法益侵害后果已突破传统的公民个人信息犯罪的框架,而进入与之密切关联的另一个犯罪领域,即身份盗窃”11,也称身份欺诈。有骗子就利用人工智能“换脸”伪装成一位流量明星进行直播,骗取粉丝刷礼物,获得非法收益。不法分子还可能利用“换脸”技术冒充企业管理者,命令下属员工执行紧急现金交易或提供保密信息,宣布企业兼并或金融破产等。人工智能“换脸”可以通过结构型摄动的图像产生误分类,从而降低人脸识别
13、系统的防御性。特别是在线上交易环境中,金融平台的人脸识别系统一旦被不法分子利用“换脸”技术攻破,就会造成不可估量的损失。目前人工智能“换脸”技术已经可以同时进行人脸与声音的伪造,通过“换脸”可以伪装成任何人,这种欺骗性的身份具有很强的破坏性。(五)国家安全风险最可能被“换脸”的,除了女星,就是政客。奥巴马在“换脸”视频中攻击特朗普是“彻头彻尾的白痴”,特朗普也被“换脸”,宣称比利时应退出 巴黎协定。被“换脸”的还有英国、德国、阿根廷等其他国家政要。当然还有威胁到普通民众生命安全的虚假信息,防不胜防。印度就有多位无辜民众因 WhatsApp 上传播的伪造的犯罪信息,而被殴打致死。如果在种族问题严
14、重的国家,以“换脸”伪装成一位政要发表种族主义言论,激化种族矛盾,或以“换脸”伪造一些男性发表厌女言论并做出挑衅动作的视频,发布在女性用户活跃的平台上,挑起性别对立,这些都会破坏社会秩序。这些“换脸”视频一旦发布到用户数量最多的几个社交平台上,后果会难以控制,因内容越劲爆分享和评论数就越多,传播可能彻底失控。即使很快澄清视频是伪造的,但劲爆的虚假信息所产生的传播效应却很难迅速平息,当人们无法辨别真假,甚至很多人宁愿以假代真、以假乱真,真相的意义就被严重侵蚀,所谓眼见和听见都不再为实,社会信息生态系统就会运作失序。如果有不明势力用新闻记者、政治人物甚至恐怖分子的人脸,加上声音合成,伪造关于政治局
15、势乃至恐怖主义袭击、战争的发言或新闻播报,将直接威胁国家安全。一旦“换脸”失控,这些是必然会面临的问题。届时,即使能够给制作者及其团伙定罪,造成的严重后果已经发生了,弥补要付出很大的代价。三、人工智能“换脸”的法律治理模式构建“换脸”及其破解技术是一场没有尽头的机器学习的猫鼠游戏。风险治理,还是要回到法律第 1 期杨瑾瑜:人工智能“换脸”风险的法律治理模式53 层面来寻求突破。立足本土语境,借鉴国外相关政策与法案,以“换脸”影像传播的介质和场域 互联网平台为中心,来构建人工智能“换脸”风险的法律治理模式。(一)明确平台作为“换脸”的管理主体首先,明确互联网平台作为“换脸”的管理主体。在我国,网
16、络安全问题由国家网信办主管,互联网平台承担监管职责。各大互联网平台都拥有数目可观的服务器以及专业的技术团队,相比政府部门,其信息处理能力更强。另外,网络平台信息共享程度高,能够及时屏蔽和排除威胁个人信息安全的问题隐患。最重要的是,互联网平台是“换脸”发源和传播的主阵地,如果恶意制作的“换脸”影像在线上传播开来,即使之后删除并追究责任,但影像很可能已经被多人下载、截屏,其影响是渗透而且持续的。因此应由平台作为“换脸”的管理主体,承担主要职责,既要保证平台内行为的合法性,也要维护道德秩序。脸书、汤不热和推特等平台,都禁止“换脸”,但是这些平台政策的效力也有限,因为禁止政策的实行依赖用户汇报。在删除
17、之前,上传的“换脸”影像并不受影响,仍然只受用户报告的监管。脸书的政策遭到媒体评论员的抨击,因禁止的“换脸”并未包含剪切内容和重新组织语言的“换脸”12。这一漏洞使得很多“换脸”影像并不在政策的管辖范围之内。鉴于此,国内平台制定的规则与政策,应对“换脸”影像做出明确的界定及处罚标准,同时建立严格的内容审查机制。视频平台与社交平台在 用户使用协议 中,明确用户只能上传哪种类型的“换脸”作品,同时要求制作者必须以水印标识或在简介中表明该作品为“换脸”,同时设置警告条款,以提醒用户上传违规的“换脸”作品要承担的后果。平台一定要及时处理用户举报,发现违规的“换脸”作品时,要及时处理,删除链接、将用户关
18、入小黑屋等,必要时上报政府部门。在 隐私政策个人信息保护政策中,平台应提醒用户保护人脸信息,并告知在该平台保护人脸信息的方式。在人工智能“换脸”的应用场景中,平台需要对上传内容进行技术审查,“换脸”识别技术的应用也是势在必行。各内容平台、社交平台、交易平台以及邮件服务商,要及时进行技术升级,应用最新的识别与破解技术。可以训练专门的技术人员来识别“换脸”影像。百度、B站、抖音、微博、豆瓣等最可能被“换脸”渗透的平台,应建立“换脸”识别程序,第一步就是要锁定并审核特定数据的搜索请求,同时提高获取人脸信息的难度,从而将“换脸”的危害控制到最小范围、最低程度。这些大平台具有这样的执行能力,只有这些平台
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 人工智能 风险 法律 治理 模式
![提示](https://www.zixin.com.cn/images/bang_tan.gif)
1、咨信平台为文档C2C交易模式,即用户上传的文档直接被用户下载,收益归上传人(含作者)所有;本站仅是提供信息存储空间和展示预览,仅对用户上传内容的表现方式做保护处理,对上载内容不做任何修改或编辑。所展示的作品文档包括内容和图片全部来源于网络用户和作者上传投稿,我们不确定上传用户享有完全著作权,根据《信息网络传播权保护条例》,如果侵犯了您的版权、权益或隐私,请联系我们,核实后会尽快下架及时删除,并可随时和客服了解处理情况,尊重保护知识产权我们共同努力。
2、文档的总页数、文档格式和文档大小以系统显示为准(内容中显示的页数不一定正确),网站客服只以系统显示的页数、文件格式、文档大小作为仲裁依据,平台无法对文档的真实性、完整性、权威性、准确性、专业性及其观点立场做任何保证或承诺,下载前须认真查看,确认无误后再购买,务必慎重购买;若有违法违纪将进行移交司法处理,若涉侵权平台将进行基本处罚并下架。
3、本站所有内容均由用户上传,付费前请自行鉴别,如您付费,意味着您已接受本站规则且自行承担风险,本站不进行额外附加服务,虚拟产品一经售出概不退款(未进行购买下载可退充值款),文档一经付费(服务费)、不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。
4、如你看到网页展示的文档有www.zixin.com.cn水印,是因预览和防盗链等技术需要对页面进行转换压缩成图而已,我们并不对上传的文档进行任何编辑或修改,文档下载后都不会有水印标识(原文档上传前个别存留的除外),下载后原文更清晰;试题试卷类文档,如果标题没有明确说明有答案则都视为没有答案,请知晓;PPT和DOC文档可被视为“模板”,允许上传人保留章节、目录结构的情况下删减部份的内容;PDF文档不管是原文档转换或图片扫描而得,本站不作要求视为允许,下载前自行私信或留言给上传者【自信****多点】。
5、本文档所展示的图片、画像、字体、音乐的版权可能需版权方额外授权,请谨慎使用;网站提供的党政主题相关内容(国旗、国徽、党徽--等)目的在于配合国家政策宣传,仅限个人学习分享使用,禁止用于任何广告和商用目的。
6、文档遇到问题,请及时私信或留言给本站上传会员【自信****多点】,需本站解决可联系【 微信客服】、【 QQ客服】,若有其他问题请点击或扫码反馈【 服务填表】;文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“【 版权申诉】”(推荐),意见反馈和侵权处理邮箱:1219186828@qq.com;也可以拔打客服电话:4008-655-100;投诉/维权电话:4009-655-100。