被重塑的世界？ChatGP...下人工智能与国家安全新特征_黄日涵.pdf

2023 年第 4 期 82 被重塑的世界？ChatGPT 崛起下人工智能与国家安全新特征*黄日涵 姚浩龙 【内容提要】ChatGPT 作为人工智能发展新的里程碑，在语言表达、自我强化等方面表现突出，展现出生成式人工智能的广泛运用前景，在多领域引起广泛关注，以 ChatGPT 为代表的生成式人工智能将会可预期地改变国家安全态势。在意识形态安全层面，对生成式人工智能的恶意运用使渗透方式更加多元，渗透效能更加显著。在国际舆论层面，对生成式人工智能的大规模使用将进一步使舆论场复杂化。在国家实力发展层面，生成式人工智能将继续拉大国家实力差距，国内公共权力与权威进一步分散。在军事安全层面，生成式人工智能赋能战场信息收集和战场指挥，国家之间的认知战对抗能力重要性日益提升。在法律规范层面，当前生成式人工智能的责任主体不明晰，现有法律法规难以约束基于该技术开展的犯罪行为。在社会稳定方面，生成式人工智能冲击劳动力市场，重塑人才发展模式。面对新技术冲击下急剧变化的新安全态势，应建立更多元协同的创新和应用体系，在国际上共享发展成果，完善法律体系，推动该技术服务于国家利益发展与人类命运共同体的构建。【关键词】人工智能；国家安全；ChatGPT；生成式人工智能；技术革命【作者简介】黄日涵，中央民族大学新闻与传播学院教授、华侨大学国际关系学院教授（北京 邮编：100081）；姚浩龙，华侨大学国际关系学院硕士研究生（厦门 邮编：361021）。【DOI】10.14093/10-1132/d.2023.04.004【中图分类号】D815.5；TP18【文献标识码】A【文章编号】2095-574X（2023）04-0082-25 *本文系国家社会科学基金重点项目“基于一带一路理念传播视角下的新媒体时代增强中国国际话语权研究”（项目编号：21AGJ007）的阶段性成果、2019 年中宣部宣传思想文化青年英才项目的阶段性成果。作者感谢快手原 AI 技术副总裁郑文博士及国际安全研究三位匿名评审专家的专业意见，文责自负。2023 年第 4 期 83 引 言 科技竞争愈发成为大国战略竞争中的重要一环。新兴国家的技术进步会影响国际关系中的权力分配，其创新活动可能会对主导国家产生外部性影响，因而任何国家在科技竞争中的突破都将有助于该国在激烈的国家竞争中占得优势。人工智能作为近年来前沿科技的代表之一，其发展态势对国际社会的影响逐渐凸显：无论是美国对中国开展的一系列科技战，还是美日韩等国围绕限制中国科技发展而建立的技术同盟，都展现出科学技术竞赛的特征。特别是 2022 年年底现象级应用 ChatGPT的出现，再次彰显出科技竞争的紧迫性。作为由 OpenAI 公司推出的生成式人工智能（Generative AI），ChatGPT 具备“强交互”“强理解”“强生成”等特点，人们可以通过与 ChatGPT 对话进行快速检索信息、撰写论文摘要和编写计算机应用程序等多种操作。这些相较过往人工智能出现的突破性能力，让人们看到了研发通用型人工智能（Artificial General Intelligence）的曙光。该类人工智能是具有普适性、自主性、创造性和学习能力的人工智能系统，有望成为推动人类社会进步的重要驱动力。微软董事长兼首席执行官萨蒂亚纳德拉（Satya Nadella）惊叹，ChatGPT将是未来改变生产力和工作方式的杀手级应用。从国家安全治理来看，人工智能在认知域和物理域的应用的确能提升国家在安全领域的治理水平，但以 ChatGPT为代表的基于大数据模型下快速发展的人工智能，短时间内大幅扩展了其在国家安全领域涉及内容和领域的宽度和深度，对此类人工智能的广泛使用将深度改变国家面临的安全态势。近年来，国内外有关人工智能与国际关系发展的讨论逐渐增多，关注的具体议题逐步转向人工智能技术与国家权力之间关系等国际政治和国家安全方面的议题。从当前研究看，学者们围绕以 ChatGPT 为代表的人工智能开展政治类议题讨论主 孙海泳：特朗普政府对华科技战略及其影响与应对，国际展望2019 年第 3 期，第 79 页。金观平：营造通用人工智能发展创新生态，经济日报2023 年 5 月 9 日，第 1 版。“Satya Nadella on ChatGPT:Killer App Thatll Transform Productivity,Future of Work,”Fortune India,January 19,2023,https:/ 年第 1 期，第 5 页。被重塑的世界？ChatGPT 崛起下人工智能与国家安全新特征 84 要包括以下几种：一是人工智能技术发展与国家间权力变化间的关系。随着人工智能成为新一轮产业革命的核心力量，其被认为是未来创新范式的“技术基底”，人工智能研究成为各国争夺科技竞争权的抓手之一。因此，当前技术大国在人工智能研究方面的较量会导致国家间竞争态势愈发激烈，国家权力的组成发生变化并进一步打破原本稳定的权力均势结构，国家的战略行为发生改变，发达国家与发展中国家之间的差距将会逐步放大。二是人工智能与国家安全态势复杂化。部分研究认为，对人工智能的广泛运用会使国家面临的安全态势更加复杂，人工智能在军事装备上的应用部分改变了战争形态，美西方国家发动地区性战争的意愿更加强烈。三是研究 ChatGPT 本身带来的影响。目前，学界关注重点在 ChatGPT的出现对学术伦理带来的冲击与对社会发展的影响上，但是较少涉及 ChatGPT对当前国家安全形势的影响。上述研究主要从权力更迭、国际权力结构转变和大国竞争等角度，对于人工智 阙天舒：美国人工智能战略新动向及其全球影响，载外交评论（外交学院学报）2020 年第 3 期，第 122 页。王悠、陈定定：迈向进攻性现实主义世界？人工智能时代的国际关系，当代世界2018 年第 10 期。傅莹：人工智能对国际关系的影响初析，国际政治科学2019 年第 1 期；保健云：大数据、人工智能与超级博弈论新时代国际关系演变趋势分析，国家治理2019 年第11 期；Michael C.Horowitz,“Artificial Intelligence,International Competition,and the Balance of Power,”Texas National Security Review,Vol.1,No.3,2018。蔡翠红、戴丽婷：人工智能影响复合战略稳定的作用路径：基于模型的考察，国际安全研究2022 年第 3 期；封帅、周亦奇：人工智能时代国家战略行为的模式变迁走向数据与算法的竞争，国际展望2018 年第 4 期。高奇琦：人工智能时代发展中国家的“边缘化风险”与中国使命，国际观察2018年第 4 期；封帅：人工智能时代的国际关系：走向变革且不平等的世界，外交评论（外交学院学报）2018 年第 1 期。刘国柱：深度伪造与国家安全：基于总体国家安全观的视角，国际安全研究2022年第 3 期；阙天舒、张纪腾：人工智能时代背景下的国家安全治理：应用范式、风险识别与路径选择，国际安全研究 2020 年第 1 期；Daniel Hoadley and Nathan Lucas,“Artificial Intelligence and National Security,”Congressional Research Service,April 26,2018。徐能武、葛鸿昌：致命性自主武器系统及军控思考，现代国际关系2018 年第 7期；黄忠：人工智能与未来十年的国际关系，当代世界与社会主义2019 年第 6 期；Forrest E.Morgan et al.,“Military Applications of Artificial Intelligence:Ethical Concerns in an Uncertain World,”RAND,April 2020,https:/www.rand.org/pubs/research_reports/RR3139-1.html。令小雄、王鼎民、袁健：ChatGPT 爆火后关于科技伦理及学术伦理的冷思考，新疆师范大学学报（哲学社会科学版）2023 年第 4 期；郑世林、姚守宇、王春峰：ChatGPT 新一代人工智能技术发展的经济和社会影响，产业经济评论2023 年第 3 期；张夏恒：新一代人工智能技术（ChatGPT）可能引发的社会变革，产业经济评论2023 年第 3 期。2023 年第 4 期 85 能和国际关系发展之间的关系进行了比较全面的研究。但是当前研究聚焦于国家间权力相对发展与人工智能之间的关系，对以 ChatGPT 为代表的生成式人工智能发展对国家安全态势的影响研究相对较少。随着时代的发展和技术的进步，安全的内涵和权力的内涵都在发生变动，在非传统安全领域，权力体现在传统的技术层面以及国际制度和标准的博弈上，同时也反映在话语层面的主导权争夺上，其表现为技术性权力、制度性权力和话语性权力。尽管话语性权力相较其他两种权力不那么瞩目，但在某种意义上，只有国家在多个维度上的综合性权力提高了，国家在该领域内的权益才能得到保障。与以往任何一种技术进步不同的是，ChatGPT 的话语权塑造依托于技术，表现为人机交互。即谁能通过设定算法，影响机器的内容输入和输出偏好，谁就掌握了话语性权力。相比以往任何一种权力博弈，这种博弈所造成的意识形态渗透和安全风险都更为隐性。对算法的设定和对内容偏好的设定将是生产话语性权力的决定性因素。以 ChatGPT 为代表的生成式人工智能的出现与发展，将进一步提高国家在话语性权力方面的博弈强度，亦将重新丰富和书写安全的内涵。历史上每次技术革命在给经济社会带来巨大变化的同时，也给国家治理体系和治理能力带来新的挑战，提出新的要求。从维持国家权力与国家安全的角度出发，我们必须正视该技术带来的挑战与机遇。因此本文旨在解答以下问题：在各国有关人工智能领域主导权竞争愈发激烈的大背景下，ChatGPT 和生成式人工智能与以往的人工智能有何不同？此类人工智能会对现有国家安全的特征带来什么改变？我们应通过什么方式应对现实安全挑战的变化？对以上问题的回答有助于我们正视新技术对国家安全带来的挑战，为维护国家安全秩序、把握安全局势发展提供参考。一 人工智能技术发展与 ChatGPT 崛起 ChatGPT 及相关技术是人工智能快速发展技术路径上的最新数据点。要理解ChatGPT 对当前社会发展和国际安全态势的影响，首先要理解 ChatGPT 的运行机理及其对人工智能技术组合应用带来的变革及影响。任琳：多维度权力与网络安全治理，世界经济与政治2013 年第 10 期。阳军、樊鹏：新技术革命的风险、挑战与国家治理体系适应性变革，国外社会科学2020 年第 5 期，第 127 页。被重塑的世界？ChatGPT 崛起下人工智能与国家安全新特征 86 （一）人工智能技术发展与 ChatGPT 的能力特征 有关人工智能的研究起源于 1956 年约翰 麦卡锡（John McCarthy）和马文 明斯基（Marvin Lee Minsky）等科学家对有关如何用机器模拟人的智能的探讨。探讨中提出的“人工智能”（Artificial Intelligence）概念，打开了人工智能学科研究的大门。在历经数次技术升级后，人工智能的技术发展与应用不断取得突破，其所依据的技术本质从 1.0 时代的“逻辑推理”，逐步转向 2.0 时代的“知识工程”与 3.0时代的“机器学习”，人工智能能力快速提高，适用范围逐步扩大。在人工智能技术发展的第三次浪潮后，人工智能技术也跨越了产业化的门槛，逐步呈现出国际体系中系统性变量的特征。国家不断扩大人工智能技术在军事、经济等领域的应用范围与深度：无人机等智能武器与信息处理平台逐步改变了传统战争的面貌，人工智能对产业的赋能与革新大幅提高了生产与经济发展速率，被认为是新一轮科技革命的重要组成部分。早在 2016 年，已有分析者意识到人工智能技术的发展已经跨越了影响人类政治生活的门槛，未来将成为国际体系中的重要影响因素，人工智能技术和设备史无前例的重要性可能使该领域的政策成为国家政策中最关键的要素。美国深知人工智能在国防军事、产业革新等方面蕴含的重大动能，因而始终将领跑人工智能与护持美国霸权紧密联结，不断出台多项人工智能发展战略。人工智能技术的研发和应用主动权竞争成为大国科技竞争的重要组成部分。科技公司也在继续加快探索人工智能技术发展路径的脚步。2017 年，谷歌公司提出新的人工智能深度学习模型 Transformer 模型。研究人员把自注意力（Self-Attention）机制引入模型内部，提出能够提高模型并行效率和运行效果的多头注意力机制（Multi-head Attention），大幅度提高人工智能在面对大规模数据时的运算速率，使其具有良好的理解上下文关系的能力。此后，OpenAI 公司基于 Transformer 模 李括：美国科技霸权中的人工智能优势及对全球价值链的重塑，国际关系研究2020 年第 1 期，第 27 页。封帅：人工智能国际关系研究的中国进程及其挑战，中国社会科学评价2022 年第 3 期，第 83 页。封帅：建构人工智能国际关系研究的中国视角：历史考察与议程设置，国际关系研究2021 年第 6 期，第 59 页。夏立平、田博：论国际新智缘政治的范式与影响，同济大学学报（社会科学版）2020 年第 6 期，第 56 页。戚凯：ChatGPT 与数字时代的国际竞争，国际论坛2023 年第 4 期，第 21 页。Ashish Vaswani et al.,“Attention Is All You Need,”June 12,2017,https:/arxiv.org/abs/1706.03762.2023 年第 4 期 87 型开发出 GPT（Generative Pre-Training）模型，将无监督预训练机制和有监督微调方式引入对模型的训练中，结合提示学习（Promote Learning）方式，使得人工智能具备了强大的自然语言理解能力。OpenAI 公司基于 GPT 模型陆续开发数个版本。到GPT-3 模型时，用以训练模型的参数规模已达 1 750 亿，实现了情景学习（In-context Learning），使得该模型可以通过少量的样本便产生高质量答案。ChatGPT 便是OpenAI 公司基于 GPT-3.5 模型推出的对话型人工智能。OpenAI 公司的研究人员将基于人类反馈的强化学习方法（Reinforcement learning from human feedback）引入对 ChatGPT 的训练，由工程师在训练人工智能时提供对话数据，创建和使用强化学习的奖励模型（Reward Model），使用最近策略优化（Proximal Policy Optimization）来微调模型。人工智能则在训练学习过程中将生成的答案通过排名方式排序，并反馈到系统中开展新一轮训练，使其能够通过大量训练习得人类语言的表达方式和语法规则，从而能够模拟人类语言的生成过程。因此，ChatGPT 可以较为自然地生成文本内容，被视为是新一代知识调用和处理工具。以上这些技术的组合，共同赋予了 ChatGPT 相较于传统人工智能更独特的能力。图 1 ChatGPT 特点 资料来源：作者自制。第一，在语言表达方面，ChatGPT 能够高效理解和解读人类语言，并相应地产出符合自然语言规律的回答，展现出极强的拟人化表达能力。据报道，ChatGPT 能 于文轩、马亮、王佃利、韩志明、谢新水、叶林、文宏：“新一代人工智能技术 ChatGPT的应用与规制”笔谈，广西师范大学学报（哲学社会科学版）2023 年第 2 期，第 2 页。OpenAI,“Introducing ChatGPT,”https:/ 崛起下人工智能与国家安全新特征 88 够生成令人印象深刻的、详细的、类似人类的书面文本。相较于以往人工智能在交互过程中的机械化、程序化表达，ChatGPT 模型内置了科学化和人性化的人工智能语言系统，其出人意料的语言“理解”和表达能力，已经超过 90%的人，使得ChatGPT 在运行过程中能够摆脱以往人工智能输出过程中缺少感情色彩的表达方式，并能根据对话内容进行基本的逻辑推演和情感色彩的判断，输出尽可能符合语境和语言特点的文本。这使得其在文本翻译等人机交互领域表现出广阔的使用前景。第二，ChatGPT 相较传统人工智能而言展现出超强的能力。ChatGPT 向人们展现出基于深度学习的大语言模型的能力与潜力，即参数达到千亿级别的大规模模型，这能够打破传统的比例定律进而实现模型能力质的飞跃。ChatGPT 目前已展示出文档翻译、数据代码编写等能力，最新的 GPT-4 模型更是展现出远超 ChatGPT的高级推理能力，甚至可以在几分钟内基于手写需求产出功能性网站。这些能力使得 ChatGPT 作为辅助工具，可以大大提高学习与研究效率。同时，ChatGPT 还具有极强的学习能力。以往人工智能较少拥有交互修正能力，其回答往往是依据数据“总结”出的某些“规律”，一旦接收到的信息不符合该规律，那其作出的回答就具有较大偏差。ChatGPT 通过无监督预训练和人类反馈的自我强化学习，可以在与人类的话语互动中不断纠错，自主强化语言处理能力。尽管受限于训练资料库规模、训练资料未能及时更新等原因，ChatGPT 有时会出现低级甚至是常识性错误，但其在接收到用户反馈后会及时进行修正并记录，在多次训练后显著提高输出结果的准确率，通过不断技术迭代，实现高智能化。当然，受限于训练数据及算法，ChatGPT 有可能出现“一本正经地胡说八道”的情况。这就需要进一步强化算法能力与扩大人工智能训练的数据规模，以提高回答的准度与精度。第三，ChatGPT 的出现使得人们认识到生成式人工智能所具有的广阔应用前景。ChatGPT 作为生成式人工智能，能够在许多应用中改善自然语言处理（Natural Samantha Lock,“What is the AI Bot ChatGPT?”The Guardian,December 5,2022,https:/ ChatGPT 谈起，思想理论教育2023 年第 3 期，第 42 页。复旦邱锡鹏：深度剖析 ChatGPT 类大语言模型的关键技术，CSDN，2023 年 3 月 16 日，https:/ Murphy Kelly,“5 Jaw-dropping Things GPT-4 Can do that ChatGPT Couldnt,”CNN,March 16,2023,https:/ 年第 4 期 89 Language Processing）和自然语言理解能力（Natural Language Understanding），展现出多模态信息的生成能力。除语言问答外，ChatGPT 已经为我们展示了包括语言翻译、文本摘要与生成在内的多种功能，这反映出生成式人工智能的突出优势，即能够基于训练数据生成新的内容而非对知识进行基本的逻辑排列。以往开发的人工智能主要是决策式人工智能，主要学习数据中的条件概率分布，根据数据进行分析判断。生成式人工智能则在此基础上实现突破，不仅能够与决策式人工智能发挥类似的预测功能，还能够基于大量数据进行深度学习、归纳及创造，在接收指令后能独立作出判断与生成对应内容。目前，生成式人工智能已被运用在包括超高清视频生成、远程医疗诊断、计算机代码生成等在内的多个领域，没有绘画基础的人甚至能借助人工智能创作绘画作品并获奖。生成式人工智能很可能将是未来人工智能的主要发展方向。可预见的是，随着生成式人工智能的训练成本下降和计算效率的提高，会有更多辅助性工具被用在药物和芯片设计等领域，研究人员可以通过此类人工智能的辅助优化产品设计布局，降低药物和材料发现的成本与时间消耗，以此大幅提升行业生产效率。（二）ChatGPT 激化科技企业竞争态势 引发社会多方位思考 ChatGPT 的出现与火爆吸引了科技巨头继续加大对人工智能研究的投入，在该领域展开新一轮竞赛。在人工智能技术发展方面，OpenAI 公司在推出基于 GPT-3.5模型的 ChatGPT 后，继续推出综合实力更加强大的 GPT-4 模型。谷歌公司加速对类 ChatGPT 人工智能的训练，并推出大语言模型 PaLM 的最新版本和新工具MakerSuite，开发人员可以通过该工具对自身想法进行快速原型设计，实现即时工程、生成合成数据和调整自定义模型等功能。国内科技企业与高校也加紧步伐开发类 ChatGPT 人工智能，试图赶上这波浪潮。例如，百度公司迅速推出大模型“文心一言”对标 ChatGPT 等。同时，ChatGPT 拥有的超强能力给社会多个领域带来冲击。ChatGPT 本质上是 Mohammad Aljanabi et al,“ChatGpt:Open Possibilities,”Iraqi Journal for Computer Science and Mathematics,Vol.4,No.2,2023,p.62.中信建投证券：2023 年人工智能专题报告 生成式 AI 范式升级，应用多元，未来智库，2023 年 1 月 30 日，https:/ Metz,“AI Won an Art Contest,and Artists are Furious,”CNN,September 3,2022,https:/ Takes on OpenAIs GPT-4,Unveils PaLM API and MakerSuite,”Indian Express,March 15,2023,https:/ 崛起下人工智能与国家安全新特征 90 一个对话式人工智能，其产出结果方式主要是文本输出，因而对于某些基于文本交换进行信息交流的领域，ChatGPT 将会对既有的互动与生产方式产生变革性冲击。例如，在教育领域，ChatGPT 拥有的多模态应用、信息检索与结果产出能力将逐步变革现有教育体系，不仅作为“义肢”逐步缩小知识弱势者与他人的差距，还能够提高自适应学习系统的易用度与准确度，提升教学成果的完成度与创意感。而在公共管理领域，ChatGPT 拥有的对文本等数据的快速处理能力使其能够帮助国家政府快速处理部分公共事项，并实现包含智能决策、智能管理、智能服务和智能监管在内的智能政务一体化发展。但是，社会变革往往也伴随着相应风险。ChatGPT作为新型知识调用工具，其给学术界带来的伦理风险、知识剽窃行为也让人们在允许其介入学术研究这一问题上存在争议，有观点认为，“ChatGPT 可能是文明的终结”，认为对 ChatGPT 的广泛依赖将会让人的思维失去批判性。因而如何界定类似人工智能在论文和实验中的角色，成为学术界将要面临的一大难题。ChatGPT 可能带来的安全风险引发社会的广泛担忧。埃隆 马斯克（Elon Musk）认为，“（以 ChatGPT 为代表的）人工智能具有巨大的前景与强大的能力，但随之而来的也是巨大的危险”。从国家安全层面看，ChatGPT 和人工智能发展对国家安全带来的影响已被广泛关注。美国国家标准与技术研究院发布人工智能风险管理框架，旨在帮助研究者思考人工智能技术发展、衡量和监控人工智能风险及其潜在消极影响。意大利则曾以“个人隐私”泄露为由禁止 ChatGPT 在意大利境内的使用。在社会层面，ChatGPT 带来的震撼也使得人们对人工智能的突破性发展感 高奇琦、严文锋：知识革命还是教育异化？ChatGPT 与教育的未来，新疆师范大学学报（哲学社会科学版）2023 第 5 期，第 104 页。王佑镁、王旦、梁炜怡等：“阿拉丁神灯”还是“潘多拉魔盒”：ChatGPT 教育应用的潜能与风险，现代远程教育研究2023 第 2 期，第 50-51 页。陈潭、刘璇：智能政务 ChatGPT 化的前景与隐忧，电子政务2023 第 4 期，第 37 页。Jane A.Leibbrand,“ChatGPT Might be the End of Civilization,”The Washington Post,February 17,2023,https:/ Hetzner,“Elon Musk Lashes out at the ChatGPT Sensation He Helped Create after Microsofts Massive Investment Not what I Intended,”Fortune,February 17,2023,https:/ Boutin,“NIST Risk Management Framework Aims to Improve Trustworthiness of Artificial Intelligence,”National Institute of Standards and Technology,January 26,2023,https:/www.nist.gov/news-events/news/2023/01/nist-risk-management-framework-aims-improve-trustworthiness-artificial.Livvy Doherty and Sharon Braithwaite,“Italy Blocks ChatGPT Over Privacy Concerns,”CNN,March 31,2023,https:/ 年第 4 期 91 到担忧。在日本，接近 70%的受访者认为，国家应该对人工智能的发展进行更加严格的监管。由此可见，ChatGPT 并不只对传统人工智能应用领域带来冲击性结果，其难以预料的功能和应用外溢也将给社会带来多方位影响。因此，围绕 ChatGPT 这项新兴应用对国家安全带来的影响展开讨论，不仅有助于对该项应用及背后技术机理的释疑，更有助于全面理解和正确看待生成式人工智能对未来社会的颠覆性影响。二 ChatGPT 影响下的国家安全新特征 高新技术的革新与突破给国家发展带来多重影响。从国际权力对比看，以人工智能技术为载体的新一轮科学技术革命正在加速重塑世界权力秩序。从社会经济发展的角度看，人工智能可以帮助国家建立更加可持续的、免于经济危机侵扰的增长模型。回顾过去数次技术革命的发展与演变，其往往会对国家安全态势产生重大甚至是颠覆性影响，国家安全学的“横切延伸性”特征与人工智能的广泛适应性特点天然契合，人工智能技术发展自然深度嵌入到国家安全各领域。在政治安全、经济安全和军事安全领域，人工智能将以系统性要素的身份创建广泛的新议题，并成为网络的中心节点；在安全内涵相对具体的网络安全、核安全与国土安全领域，人工智能则成为重要的赋能主体，塑造了网络的半中心区域。其余国家安全领域与人工智能的链接相对松散，构成议题网络的外围区域。因此，探究 ChatGPT 对国家安全态势带来的多重影响非常重要。（一）信息场域进一步复杂化 助长部分国家操纵国际舆论的能力 西方发达国家在人工智能领域发展较为成熟，得以通过抢占先机和技术优势强化对国际舆论的掌控能力，更有利于它们基于价值为导向有针对性地操控舆论，建立信息茧房。快速发展的人工智能将会助长虚假信息的产生，制造虚假的共识表象 “Nearly 70%Call for Regulating Development of AI Bots,Survey Finds,”The Japan Times,April 30,2023,https:/www.japantimes.co.jp/news/2023/04/30/national/japan-regulating-ai-bots-survey/.王磊：美国对华人工智能战略竞争的逻辑，国际观察 2021 年第2 期，第103-104 页。Rafael Abdulov,“Artificial Intelligence as an Important Factor of Sustainable and Crisis-Free Economic Growth,”Procedia Computer Science,Vol.169,2020,pp.468-472.李文良：国家安全：问题、逻辑及其学科建设，国际安全研究2020 年第 4 期，第 17-18 页；封帅：国家安全学视域下的人工智能安全研究：议题网络建构的初步尝试，国际安全研究2023 年第 1 期，第 33 页。封帅：国家安全学视域下的人工智能安全研究：议题网络建构的初步尝试，国际安全研究2023 年第 1 期，第 26 页。被重塑的世界？ChatGPT 崛起下人工智能与国家安全新特征 92 并隐藏潜在的社会裂痕。长期以来，美国凭借二战后确立的科技霸权与国际话语权，通过对国际传播媒体的控制，持续输出反华舆论，以“债务威胁论”“经济侵略论”等观点输出中国的负面形象。在宣传策略上，西方媒体往往仅是截取符合西方利益诉求的政治议题、人权议题进行议程设置，对负面议题进行集中报道。一旦这种舆论获得主导地位，它就能通过话语的压制和创造功能为其价值取向披上“集体意志”的外衣。而以 ChatGPT 为代表的生成式人工智能在进行舆论战时具备极大优势：此类人工智能在进行有目的性的训练后能够持续不断地输出带有政治偏见与虚假信息的言论，并将其以图片、视频和网络言论等形式，通过各种舆论传播渠道输出到国际数据网络中，直接或间接干扰国际舆论，并且影响他国民众认知。基于此，掌握技术和数据优势的国家可将基于大数据模型发展而来的人工智能与各种网络机器人结合，制造新型“网络水军”，通过混合虚假信息和扭曲事实性信息批量化地炮制丑化他国形象的言论。这不仅直接影响公众舆论和抹黑他国国家形象，更有助于这些国家强化在国际舆论场的主导性与主动权。在以 ChatGPT 为代表的生成式人工智能大规模应用后，舆论生态将进一步复杂化与浑浊化，网络信息的有效性与可信度将进一步降低。新媒体赋予了每个个体发声的权利。而 ChatGPT 等生成式人工智能的出现和应用降低了社会信息场域中不同个体的信息不对称状况，大幅提高了个体在舆论场中的发声频率和权重，舆论场中的信息熵将大幅提高，社会信息场和舆论场进一步呈现“多中心化”特征，政府在信息发布和舆论引导等方面的权威地位受到严峻挑战。随着生成式人工智能功能的快速发展，伪造视频等虚假信息的制造门槛将大幅降低，人工智能可以通过深度伪造来操纵选举、加剧社会分裂和降低社会对政府的信任。这些深度伪造内容的可信度随着人工智能的发展快速增强，甚至使原本准确的内容也会被认为是深度伪造后的产物，直接影响到政府的公信力和权威。近年来，社交媒体上流传的假消息已经引起诸多争议。例如，有关美国总统演讲的伪造视频在网上不断流传，引发人们对总统身体健康的担忧，有些视频甚至直接对战场舆论产生影响。在以 ChatGPT为代表的基于通用大模型开发的生成式人工智能被广泛运用后，会有更多社会团体 Henry Farrell,Abraham Newman and Jeremy Wallace,“Spirals of Delusion,How AI Distorts Decision-Making and Makes Dictators More Dangerous,”Foreign Affairs,August 2022,https:/ 年第 6 期，第 11 页。阮建平：话语权与国际秩序的建构，现代国际关系2003 年第 5 期，第 36 页。2023 年第 4 期 93 通过该技术制作视频、图表等信息，具有高度可信度的新闻与信息的生产权力不再集中在国家和主流媒体手中，信息传播主体变得更加多元，将会进一步提高网络信息的复杂度，加剧原本存在的网络社会撕裂态势，掌握技术的社会团体将与国家展开真相阐释权的争夺，难以辨别的虚假信息将进一步降低新闻媒体乃至政府的权威性与可信度。此外，ChatGPT 具备的“偏差放大”能力，会放大其训练数据中的偏见和刻板印象，使得已处于社会不利地位的群体进一步边缘化，已有使用者在使用ChatGPT 时发现，其在回答某些有关黑人女性的问题时会刻意降低她们所作贡献的重要性，有时还会刻意贬低某些政治人物的形象。这是因为当前国际互联网数据中蕴含大量充满偏见的信息，刻板印象、偏见和歧视已在机器学习方法中得到广泛记录，研发机构受限于算法能力和成本难以完全净化此类信息。在国际网络数据管理方面具有垄断优势的国家可以通过插入恶意信息污染数据库等方式，人为制造人工智能的“信息茧房”，使得此类人工智能在训练过程中生成带有意识形态和认知偏见的思维构架，影响其输出结果，进而潜在地影响使用者的立场与认知。（二）数据安全难以保障 意识形态渗透方式更加多元 随着基于大模型和大数据的人工智能的广泛运用，公民和国家重要数据外泄的风险骤然上升，安全风险由此陡增。当前，新一代的人工智能是以大数据为基础开展深度学习和运转的，人工智能在深度学习中对大量敏感数据的交互使用，不仅使人类隐私暴露在人工智能之下，也极大地削弱了政府对数据信息的监管能力，个人信息泄露引发的政治安全问题很大程度也已经超越了传统安全领域。从政府层面看，国家政府能够通过使用 ChatGPT 来快速提高信息收集和决策效率，但这就 Christian Montague,“The Implications of ChatGPT on the Geopolitical Landscape,”March 16,2023,https:/ Nkonde,“ChatGPT:New AI System,Old Bias?”February 27,2023,https:/ A.Wulfsohn,“ChatGPT Faces Mounting Accusations of Being Woke,Having Liberal Bias,”The Fox News,February 16,2023,https:/ Hundt et al,“Robots Enact Malignant Stereotypes,”in 2022 ACM Conference on Fairness,Accountability,and Transparency,Seoul,South Korea on June 21-24,2022.胡洪彬：人工智能时代政府治理模式的变革与创新，学术界2018 年第 4 期，第79 页。姚斌：总体国家安全观视角下个人信息保护机制研究，保密科学技术2019 年第8 期，第 12 页。被重塑的世界？ChatGPT 崛起下人工智能与国家安全新特征 94 要求政府为 ChatGPT“投喂”相关文件和数据，使其能作出更符合实际发展的决策，而这无疑加剧了国家数据被盗取的风险：一方面，ChatGPT 的工作机制仍是一个“黑箱”，不能排除其在运作过程中会存储与传递相关数据的可能；另一方面，ChatGPT 的功能使得其能够在短时间内通过自监督学习能力充分理解数据之间的关系。在 2023 年 5 月的功能更新中，OpenAI 公司已经解禁了 ChatGPT 互联网连接能力上的限制，允许其通过特定的第三方软件作为跳板“知晓”最新的信息。尽管它仍然不能访问某些被“安全保护”的网站，但联网能力的解禁强化了 ChatGPT拥有的数据深度检索与串联能力。ChatGPT 及类似的生成式人工智能通过关键词提醒等方式进行具有针对性大范围的数据收集与联想，对某些事件或计划进行“画像”制作。例如，一国政府可以借助该技术有针对性地收集部分国家的港口运输、重要资源转移情况等，“管中窥豹”地动态感知他国国内状况，从而提前预警可能的战争行为，这将大幅降低政府行为的机密性和安全性。若无特定反制措施，科技弱国将对科技强国单方面透明，科技强国将始终持有策略和战略主动性，国家之间的权力结构将变得更加不平衡，形成国际权力领域的“马太效应”。从用户信息交流层面看，用户与 ChatGPT 进行的对话不仅是人工智能自我强化学习的过程，更是用户个人信息泄漏的过程。当用户使用 Chat