人工智能(AI)国际金融监管初探.pdf

人工智能（AI）国际金融监管初探毕马威金融行业研究中心2024年09月1人工智能（AI）国际金融监管初探 2024 毕马威华振会计师事务所(特殊普通合伙)中国合伙制会计师事务所，是与毕马威国际有限公司(英国私营担保有限公司)相关联的独立成员所全球组织中的成员。版权所有，不得转载。执行摘要随着经济社会的发展与科学技术的进步，人工智能已经被广泛应用于工作生活的各个领域。各国纷纷将人工智能纳入国家战略，期待其为经济发展提供新的增长点与动能。特别是2022年Chat-GPT的问世，向世界展现了人工智能巨大的发展潜力与应用前景。但同时，人工智能技术也可能带来系统性歧视、对数据和隐私权的侵犯以及信息茧房等问题。为推动技术以人为本，有效应对潜在风险，各国开始立足于自身的技术优势与资源禀赋，采用不同的人工智能治理与监管路径。在吸收国际组织研究成果的基础上，欧盟率先推出人工智能伦理规范、法案与框架公约等，利用治理格局优势地位积极推动国际监管，并借助欧盟统一市场的力量，通过产业链向全球施加影响。英国采取了比较灵活的监管路径，并利用地缘优势与脱欧后的自由空间，优先促进技术的创新与发展，吸引科技公司并促进产业转化。以美国、中国、新加坡为代表的具有人工智能技术优势的国家，则在国家规划的整体引领下布局促进技术发展与产业培植，兼顾发展中可能产生的风险与问题，积极推动人工智能的治理与监管。本文立足于全景扫描，在收集研读人工智能相关文献的基础上，对国际组织、欧盟、英国、美国、中国等具有代表性主体的监管体系进行了分析，并对具有里程碑意义的文件及内容要点进行了整理与解读。同时，我们亦结合各国家/地区金融领域的人工智能监管动态进行了总结、分析与展望，并对金融机构人工智能技术应用提出了合规行动建议。2024 毕马威华振会计师事务所(特殊普通合伙)中国合伙制会计师事务所，是与毕马威国际有限公司(英国私营担保有限公司)相关联的独立成员所全球组织中的成员。版权所有，不得转载。2024 毕马威华振会计师事务所(特殊普通合伙)中国合伙制会计师事务所，是与毕马威国际有限公司(英国私营担保有限公司)相关联的独立成员所全球组织中的成员。版权所有，不得转载。目录人工智能监管概览0305主要国家/地区人工智能监管05一、国际组织1.1 国际组织体系概览1.2 重要监管文件分析1.3 金融领域的人工智能监管与影响10二、欧盟/欧洲2.1 欧盟/欧洲体系概览2.2 重要监管文件分析2.3 金融领域的人工智能监管与影响15三、英国3.1 英国体系概览3.2 重要监管文件分析3.3 金融领域的人工智能监管与影响21四、美国4.1 美国体系概览4.2 重要监管文件分析4.3 金融领域的人工智能监管与影响27五、中国5.1 中国体系概览5.2 重要监管文件分析5.3 金融领域的人工智能监管与影响结语36 2024 毕马威华振会计师事务所(特殊普通合伙)中国合伙制会计师事务所，是与毕马威国际有限公司(英国私营担保有限公司)相关联的独立成员所全球组织中的成员。版权所有，不得转载。3人工智能（AI）国际金融监管初探 2024 毕马威华振会计师事务所(特殊普通合伙)中国合伙制会计师事务所，是与毕马威国际有限公司(英国私营担保有限公司)相关联的独立成员所全球组织中的成员。版权所有，不得转载。人工智能监管概览图1：国际人工智能监管相关文献分布情况数据来源：毕马威自行收集整理。数据收集期间为2017年7月至2024年7月底根据毕马威收集的全球人工智能监管相关文献分析，国际上人工智能立法较为活跃的国家与地区有欧盟、美国、英国、中国、新加坡以及香港等。从已发布的文件来看，各区域/国家普遍采取了促进创新，以人为本，以风险为导向的原则来实施或推进人工智能的监管，具有强制约束力的监管规则较少，仅占18%（且一半为美国州级的立法），多数采取了原则、伦理、指南、讨论文件及报告等更为软性的形式（图1）。从各区域/国家的人工智能立法特点来看，国际组织积极推出人工智能原则、伦理规范，并通过宣言、倡议、联合声明等方式推动全球整体的人工智能治理与伦理约束。欧盟的人工智能监管体系更为完整，全面覆盖规划、原则、伦理、框架、指引、监管规则等各种类型；欧盟同时积极参与国际社会人工智能监管规则的制定，其推出的欧盟人工智能法案为全球首部人工智能领域的全面监管法规，人工智能与人权、民主和法治框架公约为全球首个关于负责任地使用人工智能的具有法律约束力的国际条约，具有较强的国际影响力。英国的人工智能监管体系非常有特点，它整体采用了一种政府引领，以部门为主导、有利于创新的做法来实施监管。它采用了相对软性的方式，不主张仓促立法与推出强制规范，文件多以软性的规划、框架、指南等形式颁布，同时英国监管机构还实施了大量研究并与社会各界人士广泛探讨，以保持对人工智能实践与风险的敏锐度。美国的人工智能监管立法具有州领跑联邦政府的特点，一批州级的法律规范已率先落地，联邦部门的立法在政府执行令的统一引导下逐步推进，但尚未正式推出具有强制遵循意义的法律规范。国际人工智能监管体系概况18%13%12%6%10%41%监管规则/立法蓝图/规划原则/伦理道德治理/风险框架指南讨论文件及其他4人工智能（AI）国际金融监管初探 2024 毕马威华振会计师事务所(特殊普通合伙)中国合伙制会计师事务所，是与毕马威国际有限公司(英国私营担保有限公司)相关联的独立成员所全球组织中的成员。版权所有，不得转载。人工智能监管概览中国较早就开始实施人工智能规划及治理活动，虽然已出台的文件数量不多，但种类较为丰富，已涵盖发展规划、监管规则、治理原则、伦理规范、倡议与宣言等。同时，中国也积极参与国际社会的人工智能监管治理，推动人工智能产业发展并构建自身的国际影响力。从金融领域来看，目前金融监管机构对于人工智能监管的整体立法并不十分活跃，各区域/国家金融监管部门主要根据整体性的人工智能监管政策与要求，在各自的职能领域针对人工智能应用进行规范。但随着上位法及人工智能专门法规的陆续出台，相关金融监管机构亦在酝酿人工智能领域的金融监管要求。以下我们将选择国际组织、欧盟、英国、美国等四个人工智能监管领域具有代表性与领先意义的主体开展分析。我们亦对中国人工智能监管的进展与动态进行了总结，后续将单独撰写与国际实践比较分析的专题文章。5人工智能（AI）国际金融监管初探 2024 毕马威华振会计师事务所(特殊普通合伙)中国合伙制会计师事务所，是与毕马威国际有限公司(英国私营担保有限公司)相关联的独立成员所全球组织中的成员。版权所有，不得转载。主要国家/地区人工智能监管1.1 国际组织体系概览国际组织较早就开始了关于人工智能的探讨，从其目前已发布的文件看，均为不具有强制约束力的原则、伦理建议、倡议宣言等，旨在推动相关方以人为本，以负责任的方式设计、开发和应用人工智能。相关内容为不同地区、国家的人工智能立法提供了有力的支持与丰富的借鉴，包括标准定义、原则导向、伦理规范、工具方法等。2019年，世界经济合作组织（OECD）与二十国集团（G20）先后推出了人工智能原则，但原则并不具有约束力。2021年，联合国教科文组织（UNESCO）发布人工智能伦理问题建议书，对人工智能涉及的伦理问题进行了深入探讨，并提供了评估工具与政府行动建议。2023年，七国集团（G7）领导人发布就广岛人工智能进程的联合声明，并配套推出了指导原则与行为准则。2023年11月，首届全球人工智能（AI）安全峰会上，包括中国、美国、欧盟在内的 28 个国家，签署了布莱切利 AI 宣言，这也是是全球第一份针对人工智能这一快速新兴技术的国际性声明（图2）。1.2 重要监管文件分析以下选择三份重要的国际组织人工智能监管文件进行分析。OECD人工智能原则和G20人工智能原则（2019年）在全球层面，从国际组织发布的人工智能相关文件来看，较为重要且被广泛引用的两份文件是世界经济合作组织（OECD）于2019年5月发布的人工智能原则（首个人工智能政府间标准），以及二十国集团（G20）于2019年6月发布的人工智能原则，后者借鉴了前者的提议1（图3）。在后续各地区、国家、组织发布的人工智能监管文件中，关一、国际组织图2：国际组织人工智能相关文件信息来源：毕马威自行收集整理。1 部分内容引用自FSI Insight on policy implementation No 35,Humans keeping AI in check-emerging regulatory expectations in the financial sector。6人工智能（AI）国际金融监管初探 2024 毕马威华振会计师事务所(特殊普通合伙)中国合伙制会计师事务所，是与毕马威国际有限公司(英国私营担保有限公司)相关联的独立成员所全球组织中的成员。版权所有，不得转载。主要国家/地区人工智能监管于人工智能的标准定义、原则等，均吸收利用了两份文件的成果。人工智能伦理问题建议书（2021年11月）首个全球级的人工智能伦理标准2021年11月，联合国教科文组织（UNESCO）采纳了一套关于人工智能伦理的建议人工智能伦理问题建议书（以下简称建议书），由193个成员国一致通过，这是首个全球级的人工智能伦理标准。它建议会员国在自愿基础上适用建议书的各项规定，特别是根据各自国家的宪法实践和治理结构采取适当步骤，包括必要的立法或其他措施，依照包括国际人权法在内的国际法，使建议书的原则和规范在本国管辖范围内生效2。建议书详细讨论了其目标、价值观、原则以及政策领域的行动（图4），并提供了两项核心工具，准备 状 态 评 估（readinessassessmentmethodology）与伦理影响评估（ethicalimpact assessment）。准备状态评估工具（RAM）包括一系列定量和定性问题，旨在收集与一个国家的人工智能生态系统相关的不同方面的信息，包括法律和监管、社会和文化、经济、科学和教育以及技术和基础设施方面。其中每个维度都有一系列定量和定性评估问题，使RAM有别于其他现有的准备状态评估工具。其问题设置主要覆盖六大维度，包括通用维度、法律维度及其8个细分维度、社会与文化维度及其5个细分维度、科学与教育维度及其10个细分维度、经济维度及其3个细分维度，以及技术与基础设施维度及其4个细分维度。其中法律图3：OECD和G20提出的人工智能原则信息来源：毕马威根据OECD人工智能原则和G20人工智能原则整理。2 部分内容引用自UNESCO，人工智能伦理问题建议书中文版。7人工智能（AI）国际金融监管初探 2024 毕马威华振会计师事务所(特殊普通合伙)中国合伙制会计师事务所，是与毕马威国际有限公司(英国私营担保有限公司)相关联的独立成员所全球组织中的成员。版权所有，不得转载。主要国家/地区人工智能监管维度包含人工智能政策与监管细分维度（图5），由于与本文研究主题高度相关，详细列示以供参考。伦理影响评估工具（EIA）考虑了设计、开发和部署人工智能系统的整个过程，包含一系列问题以及评估表格等，可以用于人工智能系统向公众发布之前和之后对其风险及影响进行评估。伦理影响评估工具最初设计目的是帮助参与人工智能系统采购的公共部门官员，为他们提供一系列问题，以确保他们购买的人工智能系统符合建议书中规定的伦理标准。然而，它也可以被开发人员或私营部门和其他地方的其他人使用，以促进人工智能系统符合道德的设计、开发和部署。图4：UNESCO人工智能伦理问题建议书提出的价值观与原则信息来源：毕马威自根据UNESCO人工智能伦理问题建议书整理。8人工智能（AI）国际金融监管初探 2024 毕马威华振会计师事务所(特殊普通合伙)中国合伙制会计师事务所，是与毕马威国际有限公司(英国私营担保有限公司)相关联的独立成员所全球组织中的成员。版权所有，不得转载。主要国家/地区人工智能监管图5：准备状态评估工具人工智能政策与监管评估指标七国集团领导人就广岛人工智能进程的联合声明（2023年10月）2023年10月30日，七国集团（G7）领导人就“广岛人工智能进程”发表联合声明，强调要开发先进的人工智能系统，充分利用生成式人工智能带来的机遇和潜力，打造以人类为中心的包容的人工智能治理框架。基于联合声明，七国集团领导人当日还发布了广岛进程先进人工智能系统开发组织国际指导原则和广岛进程先进人工智能系统开发组织国际行为准则3。文件提出了11项与风险相匹配的原则：在先进人工智能系统的整个开发过程中，包括在部署和投放市场之前，采取适当的措施，以识别、评估和减轻整个人工智能生命周期的风险；在部署及投放市场后，识别和减轻漏洞，并在适当的情况下识别滥用事件和模式；信息来源：毕马威自根据UNESCO人工智能伦理问题建议书整理。3 内容引用自中国国际科技交流中心，科技动态|七国集团领导人就“广岛人工智能进程”发表联合声明。9人工智能（AI）国际金融监管初探 2024 毕马威华振会计师事务所(特殊普通合伙)中国合伙制会计师事务所，是与毕马威国际有限公司(英国私营担保有限公司)相关联的独立成员所全球组织中的成员。版权所有，不得转载。主要国家/地区人工智能监管公开报告先进人工智能系统的能力、局限性、适当和不适当使用的领域，以支持确保足够的透明度，从而有助于加强问责制；致力于在开发先进人工智能系统的组织之间，包括与行业、政府、民间社会和学术界，实现负责任的信息共享和事件报告；制定、实施和披露基于风险的人工智能治理和风险管理政策，包括隐私政策和缓解措施，特别是针对开发先进人工智能系统的组织；投资并实施强有力的安全控制，包括整个人工智能生命周期的物理安全、网络安全和内部威胁防护；在技术可行的情况下，开发和部署可靠的内容认证和来源机制，如水印或其他技术，使用户能够识别人工智能生成的内容；优先考虑研究以减轻社会、安全和保障风险，并优先考虑对有效缓解措施的投资；优先发展先进的人工智能系统，以应对世界上最大的挑战，特别是但不限于气候危机、全球卫生和教育；推动制定并酌情采用国际技术标准；实施适当的数据输入措施，保护个人数据和知识产权。1.3 金融领域的人工智能监管与影响从金融领域来看，国际清算银行（BIS）、国际证券事务监察委员会组织（IOSCO）等国际组织一直在积极推进金融领域人工智能相关的研究，自2021年起陆续发布金融领域的人工智能研究报告，研究主题覆盖市场中介机构和资产管理公司对人工智能和机器学习的应用，人工智能在中央银行的应用，中央银行的生成式人工智能与网络安全，人工智能如何重塑金融业等，其研究内容主要聚焦于人工智能在金融业的运用现状，机会与挑战，以及蕴含风险的探讨，并未推出具有遵循意义或操作指导的治理原则、风险框架、指引等规范。国际清算银行金融稳定研究所（BIS-FSI）的研究报告也提出，建议区分面客（customer-facing）、非 面 客（Noncustomer-facing）两类场景搭建不同的监管框架与措施。展望未来，随着人工智能技术的持续发展与金融领域应用场景的不断扩大，预计未来将有更多国际组织积极作为，促进金融领域人工智能监管或引导规范的出台。userid:529794,docid:176146,date:2024-09-26,10人工智能（AI）国际金融监管初探 2024 毕马威华振会计师事务所(特殊普通合伙)中国合伙制会计师事务所，是与毕马威国际有限公司(英国私营担保有限公司)相关联的独立成员所全球组织中的成员。版权所有，不得转载。主要国家/地区人工智能监管2.1 欧盟/欧洲体系概览欧盟自2016年起就不断探索对人工智能技术应用的监管体系构建，其以欧洲整体层面为视角，致力于构建协调一致、适合欧洲发展的人工智能治理体系。欧盟监管的政策重点是，以基本人权为底层逻辑，侧重于保障个人权利。以数据安全为阵地延伸，通过人工智能使用数据与数据应用场景划分其风险等级。其治理模式是与风险相匹配的分层治理。监管机制是采取分级监管、多种监管，并实行高额的行政处罚，且将公私机构一起纳入监管范围4。从国际竞争的视角来看，欧盟一方面利用自身国际影响力，积极拟定并输出伦理指南、全面监管法案、国际公约等，发挥制度优势影响国际层面的人工智能治理与监管。另一方面以欧盟统一市场为基础，延伸向域外乃至全球供应链相关方施加影响力。欧洲的人工智能监管体系较为完善，已颁布的文件虽然数量不多，但其内容全面覆盖规划蓝图、监管立法、原则伦理、治理框架、指引指南等类型。每份文件正式出台前，均经历了多轮的草拟议案、意见征询、讨论反馈与修订等（图6）。2.2 重要监管文件分析以下选择三份欧盟人工智能领域监管具有里程碑意义的文件进行重点分析。值得信赖的人工智能伦理指南（2019年4月）不具备强制约束力的伦理指南，提出了值得信赖的人工智能框架基于2018年12月份的初稿与意见征询，2019年4月8日，欧盟委员会下设的人工智能高级别专家组正式发布了值得信赖的人工智能伦理指南，提出了实现值得信赖的人工智能全生命周期框架（图7）。值得信赖的人工智能包含三要素，符合法律的（lawful），合乎道德的（ethical）和二、欧盟/欧洲图6：欧盟/欧洲人工智能相关文件信息来源：毕马威自行收集整理。4 部分内容引用自人工智能监管制度概览，国家社会科学基金重点项目“人工智能研发与应用风险治理的财税法协同机制研究”（立项编号：21AFX021）的阶段性成果，来源人民法院报。11人工智能（AI）国际金融监管初探 2024 毕马威华振会计师事务所(特殊普通合伙)中国合伙制会计师事务所，是与毕马威国际有限公司(英国私营担保有限公司)相关联的独立成员所全球组织中的成员。版权所有，不得转载。主要国家/地区人工智能监管具有稳健性的（robust）。开发、部署和应用人工智能需符合四项伦理原则，包括：尊重 人 的 自 主 性（respect for human autonomy）、预防伤害（prevention of harm）、公平（fairness）和具有可解释性（explicability）。为达成以上目标，框架还提出了七项关键要求，包括：人的能动性与监督（human agency and oversight），技术稳健性与安全性（technical robustness and safety），隐私与数据治理（privacy and data governance），透 明 性（transparency），多样性、非歧视性与公平性（diversity,non-discrimination and fairness），环 境 和 社 会 福 利（environmental and societal well-being），责任制（accountability）。欧盟人工智能法案（2024年5月）全球首部人工智能领域的全面监管法规欧盟人工智能法案出台经历了漫长的酝酿过程，除欧盟内部的立法程序与反复商讨外，还曾多次遭遇空客、西门子等大型企业，以及谷歌、微软、OpenAI等科技巨头的公开反对与抵制。2021年4月，欧盟委员会提出了一项旨在协调人工智能规则的法规提案。2023年6月，欧洲议会通过人工智能法案谈判授权草案。12月，欧洲议会、欧洲理事会和欧盟委员会达成临时协议，将把人工智能法案制定为法律。2024年3月13日，图7：值得信赖的人工智能框架指南数据来源：毕马威根据值得信赖的人工智能伦理指南翻译整理。12人工智能（AI）国际金融监管初探 2024 毕马威华振会计师事务所(特殊普通合伙)中国合伙制会计师事务所，是与毕马威国际有限公司(英国私营担保有限公司)相关联的独立成员所全球组织中的成员。版权所有，不得转载。主要国家/地区人工智能监管欧洲议会批准人工智能法案。5月21日，欧洲理事会正式批准欧盟人工智能法案（以下简称“法案”），这是第一个具有约束力的全球人工智能横向监管法规，为欧盟人工智能系统的使用和供应设定了一个共同的法律框架，具有标志性意义。法案是一份全面的文件，它旨在提供人工智能的明确定义，使欧盟范围内关于人工智能的法律法规与其他欧盟法律法规保持一致。法案的主要目标是建立一个统一和横向的法律框架，促进人工智能系统的使用，同时提供高水平的保护，防止其不利影响。从主要内容来看，法案共13章，包括总则，禁止的人工智能实践，高风险人工智能系统，特定人工智能系统的供应者与使用者需遵循的透明度义务，通用人工智能模型，支持创新的措施，治理，欧盟高风险人工智能数据库，上市后监测、信息共享与市场监督，行为准则与指引，授权与委员会程序，处罚，以及最后条款。法案的重点是保护安全和基本权利，它根据“基于风险的方法”，为不同的人工智能应用系统风险水平，引入了分级的监管要求系统（图8）。一些存在“不可接受”风险的人工智能系统被禁止。一些可能对人们的健康、安全或基本权利产生不利影响的“高风险”人工智能系统得到授权后可以使用，但需要遵守一系列进入欧盟市场的要求和义务。由于缺乏透明度而造成“有限风险“的人工智能系统将受到信息和透明度要求的约束，而存在“最小风险”的人工智能将不受进一步义务的约束。此外，法案还为通用人工智能（GPAI）模型提供了具体规则，考虑到具有“高影响能力”的通用人工智能模型可能会构成系统性风险并对内部市场产生重大影响，法案还对其提出了更严格的要求。图8：欧盟人工智能法案的人工智能系统分级监管数据来源：根据毕马威国际Decoding the EU AI Act翻译整理。13人工智能（AI）国际金融监管初探 2024 毕马威华振会计师事务所(特殊普通合伙)中国合伙制会计师事务所，是与毕马威国际有限公司(英国私营担保有限公司)相关联的独立成员所全球组织中的成员。版权所有，不得转载。主要国家/地区人工智能监管从适用范围来看，法案为整个人工智能产业链上的相关方提供了一个合规义务框架，旨在约束与欧盟市场有连接点的所有主体，包 括 供 应 商（providers）、进 口 商（importers）、分销商（distributors）、产品制造商（product manufacturers）、部署商（deployers）和用户（users）等。从法案生效时间与处罚后果来看，法案中规定禁止的做法将在生效6个月后适用；通用型人工智能（GPAI）的相关义务和规则将在生效12个月后适用；法案生效24个月后，该法案完全适用，但一些高风险AI系统的规则将在生效后36个月适用。不遵守法案的后果可能包括限制市场准入和根据违法程度处以巨额罚款。罚款可能从750万欧元或全球营业额的1%，到3,500万欧元或全球营业额的7%不等，具体取决于人工智能系统的类型、公司的规模和违法行为的严重程度。人工智能与人权、民主和法治框架公约（2024年5月）全球首个关于负责任地使用人工智能的具有法律约束力的国际条约人工智能与人权、民主和法治框架公约的起草工作于2019年启动，当时人工智能特设委员会（CAHAI）的任务是审查这种工具的可行性。在其授权之后，人工智能委员会（CAI）于2022年继任，起草并谈判了该文件。2024年5月18日，欧洲理事会在斯特拉斯堡正式通过了具有历史意义的人工智能与人权、民主和法治框架公约（以下简称“框架公约”），这标志着全球首个关于负责任地使用人工智能的具有法律约束力的国际条约正式诞生。它旨在确保人工智能系统生命周期内的活动完全符合人权、民主和法治，同时有利于技术进步和创新。框架公约未对技术进行规范，本质上是技术中立的。框架公约共8章，36条，主要内容包括：总则、总体义务、与人工智能系统生命周期内的活动相关的原则、补救措施、风险和不利影响的评估和缓释、公约的执行、后续机制与合作、以及最后条款。从各国需履行的框架公约责任来看，主要包括：基本原则人的尊严和个人自主（Human dignity and individual autonomy）；平 等 和 不 歧 视（Equality and non-discrimination）；尊重隐私和个人数据保护（Respect for privacy and personal data protection）；透 明 度 和 监 督（Transparency and oversight）；问责制和负责任（Accountability and responsibility）；可靠性（Reliability）；安全创新（Safe innovation）。补救措施、程序性权利和保障措施记录有关人工智能系统及其使用的相关信息，受影响人员可获得相关信息；信息必须足以使相关人员质疑通过使用该系统或在很大程度上基于该系统做出的决定，并质疑该系统本身的使用；14人工智能（AI）国际金融监管初探 2024 毕马威华振会计师事务所(特殊普通合伙)中国合伙制会计师事务所，是与毕马威国际有限公司(英国私营担保有限公司)相关联的独立成员所全球组织中的成员。版权所有，不得转载。主要国家/地区人工智能监管有效保障向主管当局提出申诉的可能性；在人工智能系统对人权和基本自由的享受产生重大影响的情况下，就人工智能系统的应用向受影响的人提供有效的程序保障、防护措施和权利；提供通知，说明一个人正在与人工智能系统交互，而不是与人类交互。风险与影响的管理要求以持续迭代（iterative）的方式，对人权、民主和法治的实际和潜在影响进行风险和影响评估；通过实施这些评估，制定充分的预防和缓释措施；保留当局对人工智能系统的某些应用实施禁令或暂停的可能性（“红线”）。从框架公约的适用范围和约束效力来看，涵盖公共当局（public authorities），亦包括代表其行事的私立行为者，以及私营部门及个体（private actors）对人工智能系统的使用。框架公约为缔约方在管理私营部门时遵守其原则和义务提供了两种方式：缔约方可以选择直接受框架公约相关条款的约束，或者作为一种选择，采取其他措施遵守条约的规定，同时充分尊重其在人权、民主和法治方面的国际义务。此外，框架公约缔约方不必将条约的规定适用于与保护其国家安全利益有关的活动，但必须确保这些活动尊重国际法和民主体制和进程。框架公约不适用于国防事务，也不适用于研发活动，除非人工智能系统的测试可能干扰人权、民主或法治。2.3 金融领域的人工智能监管与影响除通用人工智能监管政策外，从金融领域人工智能监管政策与要求来看，欧洲银行管理局、欧洲保险与职业养老金局等已发布的监管规则，以及德国、法国、卢森堡、荷兰等国家发布的适用于本国的治理框架、总体原则等，基本与欧盟通用人工智能监管要求保持一致。此外，欧盟金融监管机构与各国监管机构还发布了多项人工智能相关的专题研究报告。针对法案与框架公约后金融领域的人工智能监管职责来说，欧盟国家可以将这项任务分配给其人工智能监管机构或现有的国家金融监管机构。与此同时，作为欧洲重要金融监管机构，欧洲央行（ECB）在监管法案的要求方面没有设置角色，但将继续从审慎的角度审查信贷模型。但随着法案与框架公约的生效与实施，预计未来欧盟及各国也将调整或细化监管政策，进一步明确金融领域人工智能监管的职责分工与监管要求。从金融领域的影响来看，依据法案的风险分级，部分金融行业的人工智能应用被划分为高风险，例如银行的人工智能信用评分系统被指定为高风险系统，因为这可能会对个人或群体造成不公平歧视。又如保险领域，为健康或人寿保险单定价的人工智能系统也归类为高风险。此类人工智能系统必须满足高标准的稳健性和准确性，必须在强大的风险管理框架内运行，并且必须确保人工监督和对其输出信息的正确理解。这些要求将适用于法案生效两年后部署的新系统，为金融机构履行合规义务保留了窗口期。而依据法案与框架公约的强制性要求，金融机构应用人工智能还需建设相应的治理架构、持续的风险评估与管理流程，并配备相应的岗位与专家等。15人工智能（AI）国际金融监管初探 2024 毕马威华振会计师事务所(特殊普通合伙)中国合伙制会计师事务所，是与毕马威国际有限公司(英国私营担保有限公司)相关联的独立成员所全球组织中的成员。版权所有，不得转载。主要国家/地区人工智能监管3.1 英国体系概览英国在人工智能监管路径设计方面主张平衡创新与发展5，整体采用了一种政府引领，以部门为主导、有利于创新的做法来实施人工智能监管。政府部门、监管机构与特设机构通过发布政策白皮书、讨论文件、研究简报、政策反馈、政府应答、实施效果评估等方式，持续通过深入的研究、广泛的探讨与动态的论证，并充分征询社会公众与商业企业的信息输入与反馈意见，促进相关部门不断审视并检讨原则与目标的实现情况，用较低成本的方式达成整体人工智能治理与监管目标，并促进公众的理解与信任。此外，英国高度重视并积极参与国际标准的制定，并将推广促进有利于英国发展的国际标准作为降低合规成本，促进国家竞争力的有效手段。在最新发布的科学技术框架，英国将成为国际治理优胜者与领导者列入拟于2030年实现的战略目标。从已发布的人工智能相关文件来看，英国采用的监管方法比较温和，不主张仓促推出立法与监管规范，文件多以软性的规划、框架、指南等形式颁布。同时，英国对人工智能的发展变化保持密切关注，发布了大量的研究报告、白皮书、讨论文件等，并将持续实施相关调研与研究，以保持对风险的敏锐感知与及时响应（图9）。3.2 重要监管文件分析以下将对英国四份重要的监管政策与文件进行分析。国家人工智能战略（2021年9月）在2021年9月发布的国家人工智能战略（以下简称战略）中，英国政府承诺在治理和监管人工智能方面采取有利于创新的国家立场，提出了“使英国成为人工智能超级大国的十年计划”以及关于高效治理人工三、英国图9：英国人工智能相关文件信息来源：毕马威自行收集整理。5 引用自人工智能监管制度概览，国家社会科学基金重点项目“人工智能研发与应用风险治理的财税法协同机制研究”（立项编号：21AFX021）的阶段性成果，来源人民法院报。16人工智能（AI）国际金融监管初探 2024 毕马威华振会计师事务所(特殊普通合伙)中国合伙制会计师事务所，是与毕马威国际有限公司(英国私营担保有限公司)相关联的独立成员所全球组织中的成员。版权所有，不得转载。主要国家/地区人工智能监管智能的路径设想（图10）。战略还对后续人工智能即将采取的十项监管举措进行了部署说明。建立有利于创新的人工智能监管方法（2022年7月）承接战略中的监管举措部署，英国政府在2022年7月的一份政策文件建立有利于创新的人工智能监管方法（以下简称政策文件）中概述了政府的立场。这份文件阐述了政府关于实施一个适度的、经得起未来考验的、有利于创新的人工智能监管框架的建议。为了促进创新并支持蓬勃发展的人工智能生态系统，英国采取的方法是：情景化的（Context-specific）：承认人工智能是一种动态的通用技术，由此产生的风险主要取决于其应用的情景；支持创新和基于风险的（Pro-innovationand risk-based）：要求监管机构专注于可能导致真实、可识别、不可接受的风险水平的人工智能应用，而不是试图对低风险或假设风险的人工智能应用实施控制，以避免扼杀创新；连贯的（Coherent）：确保体系简单、清晰、可预测和稳定；适度且适应性强的（Proportionate andadaptable）：要求监管机构首先考虑更轻盈的选择，如指导或自愿措施等。针对人工智能技术的特征，政策文件还建议制定一套跨部门原则，由监管机构将其发展为特定部门或领域的人工智能监管措施。6项跨部门原则包括：确保人工智能安全使用；图10：英国国家人工智能战略中的政府目标与实现路径信息来源：毕马威根据国家人工智能战略整理17人工智能（AI）国际金融监管初探 2024 毕马威华振会计师事务所(特殊普通合伙)中国合伙制会计师事务所，是与毕马威国际有限公司(英国私营担保有限公司)相关联的独立成员所全球组织中的成员。版权所有，不得转载。主要国家/地区人工智能监管确保人工智能在技术上是安全的，并在功能上按设计运行；确保人工智能具有适当的透明性和可解释性；将公平考虑嵌入人工智能；明确法人对人工智能治理的责任；明确纠偏或质疑的途径。人工智能监管：一种有利于创新的方法（2023年3月）2023年3月，在政策文件基础上，充分吸纳各方反馈意见与政策影响评估见解，英国正式发布了促进创新的人工智能监管方法白皮书（以下简称监管方法），总体而言将通过一种基于原则，中央职能持续监测并促进协作，能够灵活适应的方法来实施监管（图11）。新监管框架以五项原则为基础，以指导和影响人工智能在所有经济部门的负责任开发和使用。这些原则将在非法定基础上发布（on a non-statutory basis），并由现有监管机构实施。安 全 性、保 障 性 和 稳 健 性（Safety,security and robustness）；适当的透明度和可解释性（Appropriate transparency and explainability）；公平性（Fairness）；责 任 制 与 治 理（Accountability and governance）；图11：英国促进创新的人工智能监管方法中的人工智能监管策略数据来源：毕马威根据促进创新的人工智能监管方法翻译整理。18人工智能（AI）国际金融监管初探 2024 毕马威华振会计师事务所(特殊普通合伙)中国合伙制会计师事务所，是与毕马威国际有限公司(英国私营担保有限公司)相关联的独立成员所全球组织中的成员。版权所有，不得转载。主要国家/地区人工智能监管争 议 与 纠 偏（Contestability and redress）。监管框架围绕四个关键要素构建，旨在增强现有监管机构的能力，促进整个监管格局的一致性。四大关键要素为：根据人工智能的独特特性定义人工智能，以支持监管机构协调；采用针对特定情景的方法；提供一套跨部门原则，指导监管机构应对人工智能风险和机遇；提供新的中央职能，支持监管机构实施人工智能监管框架，最大限度地提高迭代方法的效益，并确保框架的一致性。在实施方面，为促进跨部门的横向协作，监管方法确定了一些必要的中央支持职能，以确保总体框架对风险做出适度但有效的反应，同时促进整个监管领域的创新：监测和评估总体监管框架的有效性和原则的实施情况，包括实施在多大程度上支持了创新。这将使英国能够保持响应能力，并在必要时调整框架，包括在人工智能能力和最新技术发展的背景下需要调整以保持有效的地方；评估和监测人工智能在整个经济中产生的风险；进行全景扫描和差距分析，包括召集行业一同为应对新兴人工智能技术趋势提供一致的信息；支持试验台和沙盒计划，帮助人工智能创新者将新技术推向市场；提供教育和意识宣传，为企业提供清晰的指引，并赋予公民权力，让他们的声音被听到，作为框架不断迭代的组成部分；促进与国际监管框架的互用性。科学技术框架（2024年2月）2024年2月，英国发布科学技术框架政策文件（以下简称“框架”），它制定了政府到2030年使英国成为科技超级大国的战略愿景。它将人工智能确定为五大关键技术之一，并指出监管在创造人工智能蓬勃发展的环境方面发挥着重要作用。框架阐明了监管与规则方面的愿景，即英国始终处于制定技术标准和制定国际法规的前沿，并将充分利用脱欧后的自由。监管将有利于创新，刺激对科技的需求，吸引投资，同时代表英国的价值观并保护公民。政府将利用其科学技术优势和国际关系，来确保对法规和技术标准的影响力。并希望在2030年达成以下目标：一个有利于创新、易于引导并促进广泛商业科学和技术应用的法规和标准体系。监管机构对每一项关键技术的作用都将是明确的，包括它们在哪些领域跨部门和监管职责。监管机构将有权支持英国创新者的创新测试成本，使其具有国际竞争力；相对于其他国家，迅速采取行动，为关键技术制定规则，并在适当的情况下制定法规，以增加这些领域创新者的确定性。英国将在制定国内法规时考虑国际背景，以加强英国的先发优势。涵盖关键技术的法规将处于世界领先地位；19人工智能（AI）国际金融监管初探 2024 毕马威华振会计师事务所(特殊普通合伙)中国合伙制会计师事务所，是与毕马威国际有限公司(英国私营担保有限公司)相关联的独立成员所全球组织中的成员。版权所有，不得转载。主要国家/地区人工智能监管领导制定