业务安全发展洞察报告（2021）.pdf

业务业务安全安全发展发展洞察报告洞察报告（2021 年）年）云计算开源产业联盟云计算开源产业联盟 2021年年12月月 前前 言言 从国家宏观层面来看，数字经济已经成为我国经济发展的重要战略支柱。数字化时代下，企业纷纷引入新技术、新流程来突破传统业务领域的瓶颈，以迎合当前数字经济时代背景下的市场环境。众多企业在远程办公、在线教育、电商、远程医疗等新业态产业不断发展，然而，在激活企业数字化转型需求的同时，也带来了更多的业务层面风险。大量欺诈、钓鱼、羊毛、作弊、盗用、虚假信息、刷单等等诸多业务安全问题，已危害到企业的安全。业务的健康稳定不仅是企业营收的重要保障，亦是企业信誉以及生存发展的关键要素。因此，企业开始更加关注业务安全，布局内容风控安全、交易风控安全、信贷风控安全、营销风控安全、钓鱼风控安全、防伪溯源安全、私域安全、业务交互安全、知识产权等方面的业务。白皮书从业务安全主要应用场景的维度对我国业务安全应用发展进行洞察和分析。参与编写单位参与编写单位 中国信息通信研究院、腾讯云计算（北京）有限责任公司、京东集团、华为云计算技术有限公司、北京数美时代科技有限公司、北京百度网讯科技有限公司、网易易盾、同盾科技有限公司、北京嘀嘀无限科技发展有限公司、中移（苏州）软件技术有限公司、北京芯盾时代科技有限公司、深圳永安在线科技有限公司、北京快手科技有限公司、北京知道创宇信息技术股份有限公司、浙江邦盛科技股份有限公司、北京火山引擎科技有限公司、奇安信科技集团股份有限公司 主要撰稿人主要撰稿人 卫斌、栗蔚、郭雪、张博超、刘站奇、周斌、何茂亮、张观侣、李超、余意、陈炳文、蔡超维、王金山、唐昌林、曲晓晴、梁洁全、张佳佳、郭铠垣、姚凌鹏、李乐乐、林睿、尹承、赵锐、司乃丹、孔蔓歌、李洋、王三鹏、祖辰、谭全福、刘宇、林元晟、辛颖、谢文辉、梁志勇、王小妹、高巍、刘胜男、马可、左朦、段鹏飞、黄志、鲁珈璐、高民、齐小丽、王丹娜、孔云芳、丁勇、王颖、陶思萌、闫定国、储云、刘佩、史宇锋、张朗、赵丽芬、范杰、赵腊梅、贾敏、季文东、孙永飞、郭良超、陈成、杨佳学、落红卫、张永波、毛帅、孔庆鑫、陈纬杰，张建洋、罗海龙、金多 目目 录录 一、国家高度重视业务安全领域发展，市场监管更加清晰化.1（一）国家政策为企业数字化转型创造良好环境.1（二）政策法规推动业务安全领域发展.2（三）洞察报告愿景及目标.5 二、数字新业态不断发展，风控行业发展潜力巨大.6（一）数字化时代下，业务安全事件频发.6（二）欺诈行为事件频发，智能风控行业发展潜力巨大.6 三、业务安全架构体系提供全流程风控，对业务风险进行有效识别及防护.10 四、业务安全应用场景.12（一）数字时代下，数字内容安全的合法和规范性已成为关注焦点.14（二）金融机构信贷业务智能化程度升高，应用场景不断涌现.23（三）互联网营销快速发展，黑灰产渗透愈演愈烈，威胁巨大.26（四）社会消费方式和交易习惯转变，交易支付欺诈形式不断翻新.35（五）钓鱼欺诈种类繁多无处不在，攻击手段随着技术的发展更新迭代.39（六）防伪溯源已由传统防伪转向“互联网防伪”，防伪行业面临新的 机遇和挑战.44（七）私域运营成企业降本增效的必然选择，安全为重中之重.50（八）业务间相互渗透增多，安全问题成为企业关注的关键要素.53（九）“互联网+”下，知识产权已成为企业核心力量，亦成为企业面临的重要挑战和机遇.56 五、业务安全发展展望.59 图图 目目 录录 图 1 中国智能风控行业市场规模及预测.8 图 2 中国智能风控行业细分领域市场规模及预测.9 图 3 业务安全架构体系.11 图 4 业务安全应用场景分类图示.12 图 5 内容风控系统.18 图 6 中国智能风控行业信贷领域市场规模及预测.23 图 7 灰黑产上中下游结构划分.27 图 8 全球遭受网络钓鱼攻击组织分布图.40 图 9 防伪溯源平台基础架构图.46 图 10 版权保护平台架构图.58 表表 目目 录录 表 1 业务安全相关政策法规.3 表 2 互联网欺诈行为总损失预测.7 表 3 业务安全场景汇总分析.13 表 4 反欺诈细分场景汇总分析.13 表 5 互联网欺诈行为总损失预测.50 业务安全应用发展洞察报告（2021 年）1 一、国家高度重视业务安全领域发展，市场监管更加清晰化（一）（一）国家政策为企业数字化转型创造良好环境国家政策为企业数字化转型创造良好环境 近年来，随着互联网、大数据、人工智能等新一代信息技术与实体经济的加速融合，数字化转型已经成为国家推动经济社会发展的重要战略手段，亦成为数字经济时代社会基座的重要组成。国家高度重视和支持数字经济发展。今年发布的“十四五规划和2035 远景目标纲要”中提出了“加快数字化发展，建设数字中国”。中国正式步入数字经济发展新时代，尤其自新冠疫情爆发以来，数字经济爆发出了强大的活力。在国资委发文的国有企业要做推动数字化智能化升级的排头兵中，亦重申了数字化转型升级的国家性和紧迫性，并将我国经济社会的中坚力量国有企业，放置在推动数字化转型的排头兵角色。随着数字经济发展的深入，各行业企业纷纷从底层的 IT 基础设施数字化转型入手，构建以云计算技术为承载，融合大数据、人工智能、区块链、数字孪生等新一代数字技术于一体的云平台底座。各企业纷纷引入新技术、新流程来突破传统业务领域的瓶颈，以迎合当前数字经济时代背景下的市场环境。与此同时，信息泄露、身份伪造、流量欺诈、自动化攻击、病毒入侵、程序漏洞等业务安全问题已严重威胁到企业及用户的利益。因此，企业开始更加关注业务安全，并与业务安全应用发展洞察报告（2021 年）2 IT 公司合作布局业务安全方面业务。（二）（二）政策政策法规推动业务安全领域发展法规推动业务安全领域发展 业务的健康稳定不仅是企业营收的重要保障，亦是企业信誉以及生存发展的关键要素。企业业务涉及的账号、数据、资金、营销、交易、溯源、私域等资源为黑灰产提供了多样化的变现途径，这意味着中国数字化原生企业将长期面临业务安全的严峻挑战。我国各级政府高度重视业务安全工作，出台众多业务安全方面法规，有效对业务安全领域的技术发展和应用创新提供支撑。业务安全政策的逐步实施，将带动政府、企业在业务安全方面的投入。以下为部分我国业务安全领域发布的重要政策法规：时间 政策/法规/事件 政策引导 2017.05 中国人民银行成立金融科技委员会 积极利用大数据、人工智能、云计算等技术丰富金融监管手段 2017.06 网络安全法 发现法律、行政法规禁止发布或者传输的信息的，应当立即停止传输该信息 2017.07 新一代人工智能发展规划 鼓励金融行业应用智能客服、智能监控等技术和装备，建立金融风险智能预警与防控系统 2019.12 数字农业农村发展规划（20192025 年）应推进农产品可溯化，建立追溯管理与风险预警、应急召回联动机制 2021.04 关于 2021 年进一步推动小微企业金融服务高质量发展的通知 银行业金融机构要综合运用互联网大数据等金融科技手段，改进业务审批技术和风险管理模型 2021.06 中华人民共和国数据从事数据交易中介服务的机构提供服业务安全应用发展洞察报告（2021 年）3 保护法 务，应当要求数据提供方说明数据来源 2021.09 关于进一步压实网站平台信息内容管理主体责任的意见 对信息内容呈现结果负责，确保信息内容风控安全 2021.10 关于加强支付受理终端及相关业务管理的通知（银发【2021】259号）为有效提升支付受理终端及相关业务风险管理水平，有力斩断跨境赌博等犯罪“资金链”，保障社会公众利益 来源：中国信息通信研究院 表 1 业务安全相关政策法规（1）金融科技委员会 2017 年 5 月，中国人民银行成立金融科技委员会，人民银行表示，要加强金融科技工作的研究规划和统筹协调，积极利用大数据、人工智能、云计算等技术丰富金融监管手段，提升跨行业、跨市场交叉性金融风险的甄别、防范和化解能力。（2）网络安全法 2017 年实施的网络安全法第 47 条要求，“网络运营者应当加强对其用户发布的信息的管理，发现法律、行政法规禁止发布或者传输的信息的，应当立即停止传输该信息，采取消除等处置措施，防止信息扩散，保存有关记录，并向有关主管部门报告。”（3）新一代人工智能发展规划 2017 年 7 月，国务院发布的新一代人工智能发展规划提出要业务安全应用发展洞察报告（2021 年）4 创新智能金融产品和服务，发展金融新业态，鼓励金融行业应用智能客服、智能监控等技术和装备，建立金融风险智能预警与防控系统。（4）数字农业农村发展规划（20192025 年）2019 年 12 月，农业农村部、中央网络安全和信息化委员会办公室发布的数字农业农村发展规划（20192025 年）指出，应推进农产品可溯化，建立追溯管理与风险预警、应急召回联动机制。（5）关于 2021 年进一步推动小微企业金融服务高质量发展的通知 2021 年 4 月，中国银保监会发布的关于 2021 年进一步推动小微企业金融服务高质量发展的通知指出，银行业金融机构要综合运用互联网大数据等金融科技手段，改进业务审批技术和风险管理模型，为小微企业精准画像。（6）中华人民共和国数据保护法 2021 年 6 月正式发布的中华人民共和国数据保护法第四章指出，开展数据处理活动应当依照法律、法规的规定，建立健全全流程数据安全管理制度，采取相应的技术措施和其他必要措施，保障数据安全。从事数据交易中介服务的机构提供服务，应当要求数据提供方说明数据来源，审核交易双方的身份，并留存审核、交易记录。（7）关于进一步压实网站平台信息内容管理主体责任的意见 2021 年 9 月，中央网信办发布的关于进一步压实网站平台信业务安全应用发展洞察报告（2021 年）5 息内容管理主体责任的意见指出，网站平台要以弘扬社会主义核心价值观为己任，对信息内容呈现结果负责，确保信息内容风控安全。指导督促网站平台补短板、强弱项、提水平，确保网站平台始终坚持正确的政治方向、舆论导向和价值取向。（8）关于加强支付受理终端及相关业务管理的通知（银发【2021】259 号）2022 年 3 月，人行也将会施行更为严格的关于加强支付受理终端及相关业务管理的通知（银发【2021】259 号）。对清算机构、收单机构、支付终端、个人收款码提出了明确的定责。为有效提升支付受理终端及相关业务风险管理水平，有力斩断跨境赌博等犯罪“资金链”，保障社会公众利益。（三）洞察报告愿景及目标（三）洞察报告愿景及目标 本报告旨在通过对我国当前业务安全的产业规模、关键技术、应用场景以及发展趋势进行分析和梳理，暴露当前欺诈以及其他业务风险对企业和个人可能造成的威胁及危害，为行业输出共性能力。业务安全应用发展洞察报告（2021 年）6 二、数字新业态不断发展，风控行业发展潜力巨大（一）（一）数字化时代下，业务安全事件频发数字化时代下，业务安全事件频发 2020 年以来，新冠疫情席卷全球，国内众多企业在远程办公、在线教育、电商、远程医疗等新业态产业不断发展，激活了企业数字化转型需求的同时，也带来了更多的业务层面风险。（1）2021 年 10 月，某电商平台某官方店铺，运营同学在参与平台日常活动的优惠设置操作中出现失误，导致店铺所有商品出现超低价，损失或超千万。（2）2020 年 3 月，有暗网用户对某社交平台 5 亿用户手机号数据以及近 2 亿账号基本信息进行售卖，售价仅为 1000 余美元。（3）2020 年 8 月，据外媒报道，Instagram、TikTok、YouTube由于一个不安全的数据库，导致超过 2 亿的用户资料泄露在网络上。（4）2019 年 11 月，某电商平台某旗舰店因标错价格被恶意下单，下单金额超过 700 万，最终导致店铺倒闭。（5）2019 年 2 月，某企业开展扫码送红包活动,大量未出售的商品红包被盗刷，盗刷金额累计超过 30 万，涉及销售营业额超过千万。（二二）欺诈行为事件频发，智能风控行业发展潜力巨欺诈行为事件频发，智能风控行业发展潜力巨大大 业务安全应用发展洞察报告（2021 年）7 1.互联网欺诈互联网欺诈行为呈高速增长趋势行为呈高速增长趋势 根据中国信息通信研究院发布的 移动数字金融与电子商务反欺诈蓝皮报告（2019）预测显示，从 2019 年到 2022 年，互联网欺诈行为将继续呈现高速增长趋势，表 2 展示了欺诈造成的总损失预测数据。年份 疑似欺诈者账号数量（万）欺诈造成的总损失（亿）2019 1250 3870 2020 1310 5150 2021 1740 5940 2022 2300 7100 来源：中国信息通信研究院 表 2 互联网欺诈行为总损失预测 实际情况下，欺诈账号以及欺诈行为还存在大量未被识别的情况，且我国数字化发展进程发展迅速，业务以及欺诈也都存在发展的可能，故实际中欺诈造成的损失有较大可能与上表相较更高。2.智能风控行业智能风控行业市场市场规模规模发展潜力巨大发展潜力巨大 据智研咨询发布的2021-2027 年中国智能风控行业发展战略规划及投资方向研究报告 显示，2015 年我国智能风控行业市场规模不到 20 亿元，2020 年我国智能风控行业市场规模已经超过 70 亿元，2021 年智能风控市场规模预计超过 110 亿元，2027 年智能风控市场规模预计超过 300 亿元，行业发展潜力和市场规模巨大。业务安全应用发展洞察报告（2021 年）8 来源：智研咨询 图 1 中国智能风控行业市场规模及预测 2015 年，信贷领域市场规模 8 亿元，反欺诈领域市场规模 7 亿元；2020 年，信贷领域市场规模 11.65 亿元，反欺诈领域市场规模 31.2亿元；2021 年，信贷领域市场规模预计 16.4 亿元，反欺诈领域市场规模 43.8 亿元；2027 年，信贷领域市场规模 49.7 亿元，反欺诈领域市场规模 129.8 亿元 1925.630.232.851.277.95109.5144.7170.8203238.6279.7327050100150200250300350亿元中国智能风控行业市场规模及预测业务安全应用发展洞察报告（2021 年）9 来源：智研咨询图 2 中国智能风控行业细分领域市场规模及预测 8.611.5 13.5 14.22335.149.365.176.991.4107.4126147.57.610.212.1 13.220.531.243.857.968.381.295.2111.9129.82.83.94.65.47.711.6516.421.725.630.43641.849.7050100150200250300350亿元中国智能风控行业细分领域市场规模及预测信贷领域反欺诈领域其他领域业务安全应用发展洞察报告（2021 年）10 三、业务安全架构体系提供全流程风控，对业务风险进行有效识别及防护业务安全体系提升风控模型的性能，识别并拦截业务风险，业务安全架构体系包含风控系统以及业务风险运营系统。业务场景采集到的业务数据是整个风控系统的主要数据源，业务数据经过风控系统之后产生量化的风险结果，风险结果传输给风险运营系统进行风险处置。业务安全体系的流程如下：（1）业务场景通过数据埋点等方式采集业务数据，并输入至风控系统；（2）画像层接收到业务数据之后，关联产生出不同维度的画像特征，并将业务数据和画像数据一起输入到算法层；（3）算法层执行用户判断、环境判断、业务逻辑判断等模块，并将判断结果输入至风险量化模型得到风险评估结果，同时将风险评估结果传输至风险运营系统；（4）业务风险运营系统针对已识别的业务风险进行后续的运营操作，如风险策略、案件审核(主要是交易欺诈和反洗钱场景)、风险处置、敏捷分析、监控告警、安全审计等。业务安全应用发展洞察报告（2021 年）11 来源：中国信息通信研究院 图 3 业务安全架构体系 业务安全架构体系对业务数据从生产、加工直至后期处置的全生命周期运营进行了梳理，详见图 3。2021 年，中国信息通信研究院联合十余家厂商共同编写了业务安全能力要求系列标准，对业务安全架构体系进行了详细的解读，详情参见系列标准。业务安全应用发展洞察报告（2021 年）12 四、业务安全应用场景 本报告针对产业内常见的业务场景的范围、产业规模、发展趋势、风险分析、技术解决方案、应用场景以及价值意义等部分进行梳理与总结。梳理的业务场景从业务反欺诈、防伪溯源以及私域安全三个业务类场景和业务交互、知识产权两个支撑交互类场景展开，业务反欺诈场景具体又从内容、信贷、营销、交易、钓鱼五个反欺诈场景分别进行展开梳理。来源：中国信息通信研究院 图 4 业务安全应用场景分类图示 下表为对业务反欺诈、防伪溯源、私域安全、业务交互、知识产权几个场景的产业背景、风险挑战、技术解决方案、应用场景的汇总梳理与总结。业务安全应用发展洞察报告（2021 年）13 来源：中国信息通信研究院 表 3 业务安全场景汇总分析 下表为对业务反欺诈的内容、信贷、营销、交易、钓鱼五个细分场景的产业背景、风险挑战、技术解决方案、应用场景的汇总梳理与总结。来源：中国信息通信研究院 表 4 反欺诈细分场景汇总分析 业务安全应用发展洞察报告（2021 年）14 （一）（一）数字时代下，数字内容安全的合法和规范性已数字时代下，数字内容安全的合法和规范性已成为关注焦点成为关注焦点 1.我国持续加强内容安全顶层设计，多个监管部门出台我国持续加强内容安全顶层设计，多个监管部门出台相关配套文件，推进内容安全法制化相关配套文件，推进内容安全法制化 内容风控安全可分为狭义与广义两个层次。狭义的内容风控安全侧重于预防和控制非法有害信息传播，采用文字识别、语音识别、语义识别、图像识别、文本分类等专业 AI 技术手段，在业务中对有害信息及时进行阻断，保障业务的合规经营。具体而言，互联网业务平台引入了大量交互内容，如用户聊天、电商评论、帖子、留言、视频、直播、弹幕等多个场景下的文本、图像、语音、视频等 UGC（User-generated Content）和 PGC（Professional-generated Content）的内容，其中存在着各类合规风险，必须适应国家对于黄、赌、毒及反动言论的监管。广义的内容风控安全，从一般的信息安全概念出发，数字内容风控安全主要应保证内容的隐私性、完整性和真实性。反爬虫与信息系统保护也是内容风控安全方面的一个重要部分，在对内容进行审核、监控的同时，兼顾预防违规内容与防止外部入侵。1.1 互联网时代海量数据的积累给内容合规带来巨大挑战互联网时代海量数据的积累给内容合规带来巨大挑战 随着信息化的发展，中国互联网已进入崭新的发展阶段，完善的网络基础设施建设、丰富的应用创新、多元化的商业模式等均为中国互联网发展做足准备，互联网内容呈井喷式爆发，但同时，内容合规业务安全应用发展洞察报告（2021 年）15 也面临着巨大的挑战。据第 48 次 中国互联网络发展状况统计报告显示，截至 2021 年 6 月，我国网民规模达 10.11 亿，形成全球最为庞大、生机勃勃的数字社会。初步估计，每天生产内容的用户约在 1 亿。海量的大数据积累，极大地丰富了人们的精神和物质生活，但互联网内容风险和隐患越来越突出，网络内容具有即时性、海量性和多态性等特点，审核标准在各个场景中也存在差异化、动态化，内容合规治理面临巨大的挑战。1.2 监管部门监管部门增强监管力度，增强监管力度，针对内容风控安全发布针对内容风控安全发布多项多项政策政策 我国监管部门增强顶层设计，发布专项行动及法规动态：a）2021 年以来，为创造清朗网络空间，监管部门积极行动，国家网信办开展“清朗”、“净网”系列专项行动；b）各地“扫黄打非”部门深入开展“护苗 2021”专项行动。积极开展“护苗开学季”活动，清理网上有害不良信息、防止未成年人网络沉迷；c）国家互联网信息办公室、全国“扫黄打非”工作小组办公室、工业和信息化部、公安部、文化和旅游部、国家市场监督管理总局、国家广播电视总局等七部委 2021 年 2 月 9 日联合发布关于加强网络直播规范管理工作的指导意见 全国各级网络举报部门受理内容相关举报案件情况持续增多。监管部门为了约束内容乱象，规范内容平台运营，也在不断完善相关的业务安全应用发展洞察报告（2021 年）16 法律法规。2019 年，全国发布净网等专项行动 10+起，整顿约谈违法违规网络运营者 500+次，关停或下架移动互联网应用 1000+款。截止 2021 年 10 月，据国家网信办发布的全国受理网络违法和不良信息举报受理总量的通报中，全国各级网络举报部门受理举报 1306.7 万件，同比下降 15.8%。2.内容内容风控安全面临内外部以及监管的多重挑战风控安全面临内外部以及监管的多重挑战 内容风控安全面临内部、外部以及监管的多重挑战。内部挑战具体包括：一是在业务系统的迭代上，很难全面而清晰地考虑内容风险。风险点的持续监测、垃圾内容形式的千变万化、审核标准的不断调整，都要做到事先预估和全面整理，很可能成为业务发展的阻碍因素。二是资源投入及回报不对等。海量内容的人工审核成本较高，短期内只能看到成本投入，不能看到明显的收益和效果，故前期请求资源可能得不到管理层的有效支持。三是内容风控安全与业务目标不一致。产品和业务的目标是快速提升经营的数据指标，然而，内容风控安全的介入则会在一定程度上减缓业务达到指标的速度，所以找到内容风控安全与业务目标的平衡点，亦是需要长期探索的问题。外部挑战具体包括：一是黑灰产通过广告内容进行导流。黑产会发布违规广告，通过广告进行导流变现，进而进行推广、宣传、广告甚至用于欺诈。二是多民族语言的识别要求难度高。我国民族多、语业务安全应用发展洞察报告（2021 年）17 言多、文字多。互联网时代，越来越多的民族语言、文字以及风土人情展现在网络世界中。黑灰产可通过谐音、形近、表情、特殊符号、偏僻字、偏旁部首等特殊形式进行干扰，增大内容平台对民族语言的识别难度。三是内容存在众多的变种形态。例如图片带文字的干扰、图形符号的组合、文字穿插的干扰以及分段式的广告。监管挑战具体包括：一是内容合规有着严格的监管要求。涉政、违禁、暴恐、色情等文字、图片、视频、音频、网页均为违禁内容。若内容平台审核过滤出现问题，将直接导致平台面临约谈、整改、罚款、下架乃至关停等监管风险。涉政类包括涉及国家领导人、负面人物、负面事件等内容；违禁类包括涉及违禁品、违法行为等内容；暴恐类包括涉及暴力、恐怖袭击等内容；色情类包括涉及色情、辱骂等内容。二是对未成年人的保护也是内容风控安全当前主要的关注点。据共青团中央维护青少年权益部、中国互联网络信息中心（CNNIC）发布的2020 年全国未成年人互联网使用情况研究报告，2020 年我国未成年网民规模达到 1.83 亿，未成年人的互联网普及率达到 94.9%。未成年人游戏用户规模超过 1.1 亿人，62.5%的未成年网民经常上网玩游戏，13.2%的未成年游戏用户在工作日平均每天玩手机游戏超过 2 小时。未成年人接触互联网的低龄化趋势也越来越明显，网络游戏对未成年用户可能造成的沉迷、不良内容侵蚀、过度消费等负面影响持续存在。虽然立法一直在完善，但未成年人网络沉迷依旧存在，难以根治。业务安全应用发展洞察报告（2021 年）18 3.海量数据、深度学习算法等新技术为内容风控安全提海量数据、深度学习算法等新技术为内容风控安全提供有效支撑供有效支撑 目前短视频、图片等内容成为多媒体审核的主要内容。基于海量标注数据、深度学习算法、网页抓取、自然语言处理能力等新技术，可从多维度精准识别多媒体内容中的违禁内容，如色情、暴恐等。内容风控技术主要对包含色情、涉政、暴恐、广告、垃圾信息的文本、图片、视频、语音进行检测和识别，通过系统化的方式提供审核、打标、自定义配置等能力。来源：中国信息通信研究院 图 5 内容风控系统 除构建复杂的模型体系进行内容识别之外，内容识别系统还应将账号与用户行为画像深度结合，进一步提升内容识别的精准性。以广告导流内容为例，为促进流量转换，相同内容发布的频率会很高，而且会运用大批量的账号密集发布，呈现出与一般用户不同的行为特征。账号与行为层面的识别，既是对内容识别的辅助，又能够从源头防御违规内容的产生。业务安全应用发展洞察报告（2021 年）19 基于行为特征的内容风控安全挖掘机制将业务风险前置，逐渐成为目前内容风控安全领域的重点。在传统内容风控安全领域中，作为内容发出者的用户往往被忽略。在专业团伙作案的当下，只有把风险用户连根除掉，才能使不良内容不再繁衍。基于行为特征的内容风控安全挖掘机制利用大数据模型对用户进行风险评分，针对黑灰产作案的群体性特征，融合全场景行为序列、IM 内容、互动关系、设备/手机号关联等多模态大数据构建用户风险关系网，运用深度学习技术预测新注册账号与已确认黑产团伙之间的关系紧密度，将业务风险前置，对高关联的用户赋予相近的风险概率值，在发生风险前对违规内容和账号进行处理。4.内容风控内容风控安全已广泛应用于各个安全已广泛应用于各个行业，场景繁多复杂行业，场景繁多复杂 目前，内容风控安全已广泛应用于各个行业，如社区论坛、电商网站、社交平台、媒体平台等需要对网站或者 App 内容进行安全管控的平台。平台内容量大，包括用户资料、私信聊天、商品资料、发帖回帖、留言评论、字幕弹幕、直播视频、语音聊天等场景，涉政敏感、广告、灌水、谩骂等违规信息较多，人工审核效率低，成本高，通过结合内容风控安全的机审能力，可快速提高审核效率。内容风控安全应用场景繁多且复杂，以下对几个重点应用场景进行概述。一是社区论坛，内容风控安全已广泛应用于 BBS、博客等有用户内容较多的各类网站，包括发帖、回帖、站内信等场景，实时检业务安全应用发展洞察报告（2021 年）20 测文本中的涉黄、广告、灌水、谩骂等垃圾文本。二是电商网站，电商平台的内容审核，包括对会员、商品、商铺、互动、推广、评论等内容进行违规识别，规避涉政、涉黄、暴恐、违禁等多场景审核。大部分电商平台商品审核量级较大，自动化精准审核可以提高人工审核效率，降低成本，规避平台运营风险。三是社交平台，社交平台的内容风控需对用户的昵称、头像、签名、群发消息等藏匿的垃圾内容进行针对性地检测识别，防止恶意用户的骚扰，预防风险诈骗。四是泛娱乐平台，通过对多媒体、游戏场景中，视频、直播的画面、弹幕、留言、私信等内容进行安全审核，结合内容加行为的模式综合判断，有效阻止欺诈、诈骗、恶意引流、恶意引导消费等危害平台生命线行为，规避平台运营风险。五是在线教育，通过对教育业务线上课程音视频、师生互动信息、人员账号信息、课程描述等内容进行违规识别，规避平台运营风险。六是直播，直播电商平台是一个融合文本、图片、音频、视频流等多种形式的多元内容平台，审核体系比其他平台更复杂，审核难度更大。带货直播间的观众实时发出弹幕、评论质量良莠不齐，如果不能及时识别和过滤，将会面临违规的风险。用户的昵称、头像、签名，以及商家展示出的商品描述、商品图片，都存在潜在的内容违规风险。视频流实时性和内容形式多样性的特点，需平台付出巨大的人力成本进行审核，导致效率低下。如何在线实时识别海量视频内容，是直播场景下内容审核的难点。七是游戏，针对游戏行业面临的未成年人痛点，解决方案应具备成熟的监管标签体系，结合行业业务安全应用发展洞察报告（2021 年）21 及监管政策，对用户年龄进行标签，从账号的文本、语音、人像等内容中精准捕捉未成年人特征，判断账号使用者是否为未成年人，提升游戏防沉迷系统效能，有针对性地对未成年人进行筛选并进行相应的处理。其次，玩家昵称、介绍、私信聊天等文本内容，语音对话等音频内容，以及用户头像、聊天图片等图片内容，都可能出现违规内容。恶意广告导流信息更是有可能将未成年人引向诈骗、色情、博彩。内容识别解决方案需对游戏平台中的色情、血腥、违禁、暴恐、历史虚无主义、广告导流等内容风险进行识别，为未成年人打造健康、绿色的游戏环境。5.内容风控安全对企业以及网络内容风控安全对企业以及网络空间空间建设都具有重建设都具有重要要意义意义 对于企业自身来说，内容风控安全具备以下几点重要意义；一是规避平台运营风险：多数平台用户每日发布的内容达数万条，在日益趋严的监管下，接入内容风控安全可以帮助平台规避运营风险，满足监管合规，确保合法运营，实现有效投入。二是提高内容审核效率：传统人审，审核量有限且审核不及时。智能审核可以达到日均审核文本图片数达百万条，接入内容风控安全可以大幅提高内容审核效率。三是降低成本：传统的内容审核方式是人审，单人审核量有限，需要大量的人力资源审核内容，成本很高。机审可以在接入内容风控安全时过滤掉绝大多数的正常内容，人工只需审核少量内容，大幅降低成业务安全应用发展洞察报告（2021 年）22 本，帮助企业在内容风控安全和业务运营目标中找到平衡点，助力业务安全、稳定、快速发展。内容风控安全对互联网网络空间的安全建设同时具备重要的意义。随着网络文明建设的深入推进，“清朗”“秋风”等专项网络整治行动的持续发力，藏匿于网络中的各种乱象都会得到有效纠治。我国逐渐建立起一套由完善的法律法规、监管体系和先进技术手段构成的互联网网络空间是亿万民众共同的精神家园。但由于网络空间存在隐匿性强、传播速度快、发现难度大等特点，对网络空间治理要始终常抓不懈，这不仅需要依靠监管部门履职尽责，也需要网络企业、服务平台以及广大网民共同努力，自觉肩负起社会责任与法律义务，主动与网络乱象作斗争，特别是针对背后推手、网络黑产等要全民出击，不能让其肆无忌惮侵蚀人们的获得感、危害青少年的健康成长、损害网民的切身利益。业务安全应用发展洞察报告（2021 年）23 （二）（二）金融机构金融机构信贷业务智能化程度升高，应用场景信贷业务智能化程度升高，应用场景不断涌现不断涌现 1.我国我国信贷风控信贷风控领域产业规模领域产业规模持续高速发展持续高速发展 互联网时代下，传统金融机构与互联网企业利用互联网技术和信息通信技术实现资金融通、支付、投资等新型金融业务模式。此种业务模式的转换也对金融机构传统的以专家规则为基础的风控系统带来很大的挑战，以综合运用云计算、大数据、人工智能等先进技术手段，以数据驱动达到风险管理的智能风控系统成长为金融机构的重要风控系统。据智研咨询报告显示，2015 年我国智能风控行业信贷领域市场规模超过 8 亿元，2020 年已超过 35 亿元，2015 年至 2020 年平均年增速为 67.5%。2021 年智能风控市场规模预计超过 49 亿元，2027年智能风控市场规模预计超过 140 亿元。来源：智研咨询 图 6 中国智能风控行业信贷领域市场规模及预测 8.611.513.5 14.22335.149.365.176.991.4107.4126147.5020406080100120140160亿元中国智能风控行业信贷领域市场规模及预测业务安全应用发展洞察报告（2021 年）24 近年来信贷风险的凸显，催生了反欺诈风控需求，进一步驱动了智能风控市场的增长。商业银行不良贷款率持续上升对中国信贷抵补能力提出考验，信贷产业持续推动建立线上风控平台，利用智能风控系统提升对风险的控制能力。2.信贷信贷风控风控风险形式复杂多样，金融机构面临巨大挑战风险形式复杂多样，金融机构面临巨大挑战 信贷领域欺诈风险对金融机构造成巨大损失，主要包含以下几种：一是虚假信息欺诈，申请人通过虚假的信息骗取金融机构贷款的行为，虚假信息是信贷欺诈里占比最高的欺诈形式，具体又分成虚假工作信息、虚假联系人信息以及虚假资产信息；二是冒充他人申请，申请人不知情的情况下，申请人通过诈骗、返利、承诺无需还款或者部分还款等方式诱导其他用户进行贷款申请；三是团伙骗贷，欺诈分子有组织、有计划的对一家或多家金融机构实行贷款诈骗；四是恶意套现，申请人明知套取现金后无法还款但仍实施套现的行为。3.信贷风控信贷风控应用场景应用场景不断涌现不断涌现 金融机构面临的信贷风险逐渐多样化、复杂化，信贷风控应用场景亦逐渐丰富，已应用于各金融机构的各个环节。具体包括：一是智能营销环节，金融机构可对自身的获客流量进行风险分层，根据不同产品的风险偏好进行流量分发；二是产品准入环节，客户导业务安全应用发展洞察报告（2021 年）25 入具体产品之后，对客户风险维度进行判断，是否符合产品准入条件，如黑中介、仿冒身份、恶意撸贷、特定风险人群等；三是额度审批环节，利用风控体系的贷前风控评分以及其他评估方式综合判断信贷额度；四是贷中风险扫描环节，定期将存量客群做全面风险排查，针对贷中高风险用户结合金融机构自身数据做验证核实，对异常贷中用户采取主动风控措施如降低额度等。4.信贷风控安全对用户信贷欺诈风险进行综合判断，助信贷风控安全对用户信贷欺诈风险进行综合判断，助力金融机构打造全面的风控系统力金融机构打造全面的风控系统 基于云计算、大数据等新技术的信贷风控系统，为金融机构带来了深刻的变革。随着互联网金融的发展，金融服务能触达到的用户越来越广，互联网金融服务的客群整体呈现下沉的趋势，而这部分新增的下沉客群往往资质比较低。传统的基于央行征信报告和专家规则的风险系统面对这部分下沉客群无法有效判断风险，导致部分金融机构开展互联网金融服务时面临巨大的业务风险。信贷风控系统综合利用各种维度的大数据，如运营商信息、异常支付信息、司法信息、非法交易信息、网络黑灰产信息等，在高覆盖率的情况下对用户的风险维度进行全方面的描述，继而结合机器学习、深度学习、迁移学习、联邦学习、图模型学习等先进的技术能力，综合判断用户信贷的欺诈风险、逾期风险，助力金融机构打造全面的风控体系，帮助金融机构融入到互联网金融的发展浪潮中。业务安全应用发展洞察报告（2021 年）26 （三三）互联网营销快速发展，黑灰产渗互联网营销快速发展，黑灰产渗透愈演愈烈，透愈演愈烈，威胁巨大威胁巨大 1.黑黑灰灰产产业链发展日趋成熟产产业链发展日趋成熟 网络零售市场发展稳步增高。近些年随着新冠疫情的爆发，越来越多的消费者对网络购物越来越习惯，从而促使越来越多的企业由传统营销模式全面转向互联网营销模式。按照商务部2020 年网络零售市场发展报告预测，“2021 年，网络零售市场有望保持稳中有进发展态势，市场规模有望超过 13 万亿元，保持 10%左右的增速”。网络黑灰产群体随同互联网的进程一路发展，至今已经形成规模化集团化的运作模式，所运用的攻击手段也具有高迭代速度和强可复制性。面对如此大的市场规模以及增速，很多企业在不断做着技术及业务的创新，希望能够获得更大的利益。然而，随着互联网用户红利增长趋缓，用户获客成本屡创新高，平台方花费大量营销资源在客户获取等环节；黑灰产利用各种欺诈手段对平台上的营销活动进行套利变现，从而导致营销活动不能达到预期的活动效果，且造成正常用户不能享受应有的权益和良好的活动体验。黑灰产从业者具备较强的组织性、传播性和信息感知度。黑灰产滥用平台的各种营销活动机制，如新人奖励、用户裂变拉新奖励、签到奖励、秒杀优惠、商户补贴等，利用批量账号和自动化软件，绕过业务安全应用发展洞察报告（2021 年）27 平台设定的限制规则，以积少成多的方式，大量地获取营销活动礼包，然后将现金聚集到统一账号，或将红包、优惠券、电子券等以不同方式进行变现获利。随着各平台风险监控力度的加强，黑灰产也在逐步改变欺诈方式，由原来的机器批量操作，改为人肉众包的形式，给企业识别欺诈分子带来了一定困扰。黑灰产从业者从游走在法律监管的边缘地带，逐渐形成一条分工明确、合作紧密的黑灰产业链条，形成了围绕账号的上下游产业链。按照供给结构划分，可以分为上中下游，分别对应的是资源层、服务层、变现层。来源：中国信息通信研究院 图 7 灰黑产上中下游结构划分 上游资源层阶段，黑灰产会通过养号等方式进行物料积累，同时，黑灰产从暗网、QQ 群等渠道不断获取最新的营销活动、企业漏洞等信息，发现可薅羊毛的活动之后，即在内部核心群中传播。黑灰产从业务安全应用发展洞察报告（2021 年）28 各种渠道获得 IP、账号、设备、自动化操作工具等资源、工具，为非