超越达特茅斯会议：机器智能的实现与治理.pdf

20Technological Innovation and Talent Development in AI 专题：人工智能科技创新与人才发展超越达特茅斯会议：机器智能的实现与治理贾 开（电子科技大学公共管理学院,四川 成都 610054）摘 要达特茅斯会议将人工智能视为解决问题的工具，这一功能主义视角限制了探索人工智能技术发展及治理创新的其他可能性。超越达特茅斯会议，回顾历史上围绕机器智能实现方式及其治理的讨论，应成为当前探索人工智能治理的新起点。冯诺伊曼、维纳、图灵的不同探索构成理解机器智能实现方式的基本框架，但其将技术视为外生于人类社会的分析视角模糊了机器智能的目的及其动态发展的内生动力来源。吴文俊关于数学机械化理论思想的论述对此做了推进和发展，在明确机器智能真实价值的同时，将计算复杂性纳入机器智能实现方式的考量范畴。在此基础上，昂格尔从知识经济是最先进生产力视角的论述进一步指出机器与人的相互影响关系，以及如何通过治理体系的改革与完善释放人机合作的巨大潜力。不同学者基于不同学科视角的论述看似相互独立，但对其内在思想脉络的梳理与融合对启迪未来人工智能治理体系的构建具有重要作用。关键词人工智能；机器智能；人工智能治理；达特茅斯会议中图分类号G321；TB17基金项目：科技创新 2030“新一代人工智能”重大课题“中国人工智能治理评估”（2022ZD0116201）和清华大学产业发展与环境治理研究中心资助项目“人工智能算法影响评价体系构建与应用实践”。修改稿收到日期：2023-08-02现代人工智能概念往往被视为起源于 1956 年的达特茅斯会议（Dartmouth Workshop），但这并不代表此次会议的定义就是“人工智能”的全部内涵。正如会议组织者麦肯锡所言，之所以命名为“人工智能（Artificial Intelligence）”，是试图与之前研究者所提出的相关概念区分开，更多聚焦其作为解决问题工具的功能主义内涵1。伴随着人工智能技术的普及应用，其对于人类社会的影响早已超越工具主义的范畴，更多体现为算法歧视、算法茧房、归责难题等冲击人类主体性的问题2。在此背景下，达特茅斯会议的界定已不能完全回应现实涌现的人工智能治理难题，仅仅从功能主义角度解释，甚至会束缚人们探索人工智能技术发展及治理创新的其他可能性。具体而言，以建构、完善人工智能治理体系为目的的研究与两个问题紧密相关：一是如何实现人工智能；二是如何创新人工智能治理体系。在前者清楚界定治理对象的基础上，后者才得以探索可能的制度改革空间；在后者梳理治理风险、总结治理经验的基础上，前者才能够更加明确技术路径与发展方向。自然科学围绕人工智能技术实现方式的研究，与社会科学围绕治理体系建构的研究，并非 达特茅斯会议（Dartmouth Workshop）指 1956 年 8 月在美国达特茅斯学院召开的一次会议，该会议由约翰麦卡锡（John McCarthy）等人发起，主要讨论机器模拟智能问题，试图通过凝聚研究者共识以推动该领域发展。在此次会议上，麦卡锡首次提出了“人工智能（Artificial Intelligence）”的概念，并一般性地被后人视为现代人工智能研究与应用的起点。21中国科技人才 2023年08月相互割裂的独立议题，而是相互影响的统一整体。不同的人工智能实现路径不仅反映差异化的技术逻辑，同时也直接影响治理制度的建构与绩效；不同的治理制度选择也将反过来影响人工智能的技术实现路径3。因此，“超越”达特茅斯会议，在更大时间维度下理解人工智能的相关讨论便成为回应现实需求的必然要求。本文使用“机器智能”概念代替“人工智能”，跳出达特茅斯会议功能主义视角下的思维限制，从而能更广泛地在自然科学和社会科学领域就此议题展开讨论，最终为人工智能治理体系的完善提供知识养分。沿此思路，本文从 3 个部分回溯不同领域围绕机器智能实现方式及其治理的相关讨论，试图在梳理研究演化脉络的过程中搭建跨学科对话的理论基础。首先，本文梳理了冯诺伊曼、维纳、图灵对于机器智能实现方式的不同探索。相较于达特茅斯会议在工具层面对于“人工智能”概念的聚焦，这些探索更深刻地揭示了机器智能的环境复杂性和计算复杂性，也体现了其对于机器智能社会影响的深入关切。其次，本文介绍了吴文俊的数学机械化思想及纲领。将技术演化外生于人类社会的研究视角，无法回答技术创新的原动力以及技术发展目的等重大问题，吴文俊关于数学机械化的研究则是对这一领域的推进与发展。在明确机器智能的发展目的是“人类脑力劳动机械化”的基础上，吴文俊更清晰地界定了人的价值以及人与机器的关系，为回答“我们需要什么样的机器智能”这一问题提供了更广阔的思想空间。最后，本文分析了昂格尔“知识经济”的相关思想。昂格尔从“知识经济作为最先进生产力”视角的分析不仅明确了人机合作的重要性，也指出了为释放人机合作的生产潜力，治理体系应作出的改革与完善。本文在回溯上述研究的基础上，为相关学者和政策制定者更清晰地理解人工智能及其治理研究的内在联系与制度建设的理论缘由提供参考借鉴。1 机器智能的三条路径：冯诺伊曼、维纳与图灵针对“什么是智能”以及“如何实现智能”的讨论贯穿整个 20 世纪，研究者探索这一问题的差异化路径构成理解机器智能的不同维度。在西方的学术话语体系下，机器智能有“基于生物行为机制”与“基于生物行为结果”两条路径。前者的代表人物是冯诺伊曼和维纳，而后者则更多源自图灵。对于冯诺伊曼和维纳来说，他们共同的兴趣在于寻找生物体（大脑）、数学逻辑与机器的相通性，在理解生物智能机制的基础上将其数学模型化，用以指导“智能”机器的设计与制造4。作为现代计算机的设计者，冯诺伊曼对于机器智能的思考始终与计算机的设计与制造联系在一起，因此其始终面临双重复杂性问题的挑战：一方面是生物体智能机制不清晰并因此难以通过逻辑模型得以表达，另一方面则是如何在有限时间、有限资源内模拟生物智能的运行过程。1943年，沃伦麦卡洛克（Warren McCulloch）和沃尔特皮茨（Walter Pitts）关于神经元网络的模型化研究推动了第一个问题的部分解决，而冯诺伊曼则提出以“自动机（Automata）”模型来解决第二个问题。受到生物体“由简入繁”演化进程的启发，冯诺伊曼认为复杂性计算可以基于简化的自动机模型通过自我复制、进化而得以实现，同时他建构了包含 29 个状态的自动机模型5。但自动机模型仍存在不能回应的问题，即简化模型能否且如何在自我复制和进化过程中形成解决复杂问题的能力，而这却恰恰是生物进化的特征所在。与冯诺伊曼想法类似，维纳同样重视基于对生物智能机制的理解来设计机器智能，并向冯诺伊曼推荐了麦卡洛克和皮茨的研究6。与冯诺伊曼不同的是，维纳的思考并不局限于生物智能的数22Technological Innovation and Talent Development in AI 专题：人工智能科技创新与人才发展学模型化或者以机器来模拟生物智能，其更关注“智能”的本质及其在生物体和人造机器上的体现，并以此为起点设计能够满足特定目的的机器。基于这种思考，维纳更加强调不同学科领域的知识交叉与碰撞。1948 年，维纳出版了控制论或关于动物和机器的控制与通信的科学，将“牛顿时代围绕密度、质量和能量的研究转向结构、组织、信息与控制”。但与惯常理解不同，维纳笔下的“控制论”并不像冯诺伊曼那样致力于以形式化的数学模型实现机器智能，而是在将“信息”和“控制”作为“智能”本质内涵的基础上，以启发式的逻辑指导不同场景下的机器设计。有的场景可能是确定且精准的，可以通过数学模型加以表达；但有的场景可能是思辨或模糊的，因此更依赖实验性反馈与调整4。相较于冯诺伊曼与维纳对于生物（人脑）机制过程的关注，图灵提出另外一条实现并判别机器智能的方式，即关注智能行为的结果而并不在意其是否是对于生物（人脑）的模拟。在图灵看来，“机器能否思考”的问题过于模糊以致难以定义，但从行为结果的近似性上则可以清晰界定机器智能的标准，这也是“图灵测试”的基本内涵7。由此可知，图灵不再如冯诺伊曼般关注机器实现的具体部件或结构，转而聚焦计算机的算法设计问题，基于“图灵机”模型提出“可计算问题等同于图灵可计算”的理论命题，随后，哥德尔、波斯特、邱奇等的工作被证明与“图灵机”在计算能力上是等效的，证实了数学领域的可计算判定问题与计算机领域的算法设计问题的等效性8。但图灵并未完全忽略算法模型的计算复杂性，其同样提出简化初始模型并通过“学习”和“进化”机制不断发展的理念。相较于冯诺伊曼对于自动机自我复制、进化功能的描述，图灵讨论了更丰富的学习机制，这既包括惩罚、奖励等具有明确规则但学习过程较慢的机制，也包括不具有明确规则但学习过程更快的其他机制9。至此，冯诺伊曼、维纳、图灵从不同角度探究实现机器智能的方式与途径。概括而言，其事实上反映了研究者对两个层面复杂性即环境（生物）复杂性和计算复杂性的反思与回应。在冯诺伊曼看来，机器智能的实现方式有两条路径，即图灵式或者皮茨式6，他更偏向于后者，因为图灵计算模型虽然具有数学上的形式化优点，但忽略了计算时间与资源挑战。冯诺伊曼的自动机模型虽然简化了计算复杂性，但其仍然面临着如何理解并模型化生物智能复杂性的挑战。相比之下，维纳更加开放地面对了两种复杂性的存在，其无意于找到能够同时克服两种复杂性的通用性机器智能，而将研究重点放在探究生物智能和机器智能共同的本质上，通过将“信息”和“控制”置于中心位置以聚焦能够实现特定目的的机器智能。值得注意的是，从技术层面对于机器智能的不同思考同样反映了不同学者的技术社会观念。冯诺伊曼和维纳都是社会活动的积极参与者，并深度嵌入到所处时代的政治经济发展进程。不同于冯诺伊曼与美国军方的紧密合作，维纳更关注技术的社会影响。维纳深刻认识到技术发展具有不同社会影响的可能性，并因此全面拒绝了可能被恶意利用的技术研究，同时反复强调“技术发展服务于人”的核心理念。维纳围绕“控制论”的产品转化多集中于辅助残疾人的仿生设备，同时多次提醒工会领导人注意因为“控制论”而带来的管理理念和体制的 在维纳的推动下，生物学、神经脑科学、计算科学、数学以及心理学、社会科学等领域科学家共同参与的始于 1946 年并持续了 10 年的“控制论会议”。该会议的初始名称是“生物和社会系统中的循环因果与反馈机制研讨会（Conference for Circular Causal and Feedback Mechanisms in Biological and Social Systems）”，后来维纳将其更名为“控制论会议（Conference on Cybernetics）”。23中国科技人才 2023年08月变化10。维纳对于控制论技术研究的消极态度引发了巨大争议，麦肯锡在组织达特茅斯会议时刻意没有邀请维纳，即是为了与此争议“切割”开，以更专注地推动学科领域的形成。尽管维纳十分关注技术对于人类社会的消极影响，但并未对技术（尤其是智能技术）与人的关系问题做更深入的分析。一个反思性问题在于：如果技术（尤其是智能技术）对人的消极影响仅在于技术的不合理利用，那么技术创新的目的和原动力究竟是什么？智能技术是为了取代人还是辅助人？不同的技术发展目的又将如何回应环境复杂性和计算复杂性的束缚，以形成推动技术迭代发展的原动力？吴文俊关于数学机械化的相关思考对这些问题做了进一步的阐述与回应。2 计算化智能：吴文俊的数学机械化思想及纲领与机器智能相关的核心问题有两个：一是机器智能的目的或真实意义，即为什么发展机器智能；二是机器智能的实现方式，即如何实现机器智能。冯诺伊曼、维纳和图灵等更多关注了第二个问题，但在很大程度上忽略了第一个问题。对于第一个问题的回答不仅涉及维纳所关注的技术价值或社会影响问题，其同样能为实现机器智能提供指导。在这一问题上，吴文俊围绕“数学机械化”问题的论述更为全面而系统。从机器智能的研究历史看，其与数学的演化发展密不可分。前文已指出，哥德尔、波斯特、邱奇等数学家证明了用于解决可计算问题的数学模型与“图灵机”在计算能力上是等效的。图灵奖得主唐纳德高德纳甚至指出，计算机科学就是算法的科学。因此，吴文俊关于数学机械化的讨论才应被视为理解机器智能实现方式的重要视角。更关键的是，吴文俊的思考同时涵盖了对于机器智能实现目的或真实意义的讨论。吴文俊认为，技术革命的核心特征是用机器来代替劳动，旧的工业革命主要是以机器代替体力劳动，而以信息化、计算机为主要特征的新工业革命则是以脑力劳动的减轻为重要标志。数学作为典型的脑力劳动，其机械化既是推动变革进程的重要手段，也是变革本身的集中体现。数学机械化是指用数值计算的方法来完成定理证明工作，将“虽简美但奥秘，因而颇为艰难”的脑力劳动转变为“虽繁琐但刻板，因而较为容易”的计算过程。吴文俊指出，数学机械化的思想和实践早已有之。笛卡尔和莱布尼茨认为，代数应该可以把几何推理符号化甚至机械化，从而不需要再让头脑费很大力气。“对数”的创造将乘法和除法变成相对简单的加法和减法，布尔代数的发明将思维逻辑形式化。此外，法国数学家雅克埃尔布朗（Jacques Herbrand）创立的可被用来证明任何定理的一般算法、华人数学家王浩提出的“推理分析”作为应用逻辑新分支可以像计算数学那样来处理证明问题，都是数学机械化研究历史的代表性成果。数学机械化在将“质的困难”转变为“量的复杂”问题的过程中，遇到的重要挑战之一便是如何计算，而计算机的发明与应用恰在这一点与之实现了完美融合。促使吴文俊在 1976年开始研究数学机械化的动因，正是源于其敏锐地意识到了彼时方兴未艾的计算机科学将对数学产生的深远影响11。吴文俊反复强调，数学机械化的目的不是消极的而是积极的，将脑力劳动解放出来的目的是使之用于更有意义的工作，而非完全替代人类。数学是最耗时费力的劳动，往往消耗在定理证明上，而非真理的发现与发明上。吴文俊认为，逻辑上对于某定理的严格证明、逐步检验并不足以说明真正“懂得”该定理，更重要的是对于定理为何发明、如何发明、起何作用等系列问题的回答。因此，借助于计算机技术的进步，通过数学机械化将人类从艰难的定理证明工作中解放出来，将人类脑力劳动用24到更有意义的工作上去，这才是数学机械化的真实意义11。脑力劳动机械化视角在揭示数学机械化目的或真实意义的同时，也启发了数学机械化实现方式的讨论。吴文俊在回顾数学发展史时曾指出，数学思想存在公理化和计算化两种分野。公理化思想继承于古希腊欧几里得流派的西方现代数学传统，旨在围绕推理论证建立形式化的完备数学体系；计算化思想则体现了以中国传统数学为代表的东方数学传统，从具体问题入手并将数学论证转换成计算形式，重点在于找到合适的计算方法以求解问题。按照公理化数学思想的要求，机器智能的实现方式应该重在建构能够适用不同场景的公理化体系，并在此基础上推导一般性算法模型，如“普适图灵机”的探索研究。对于数学机械化而言，公理化数学思想试图用统一方法证明一类定理。吴文俊认为，希尔伯特所著几何基础即是此类典型12。但希尔伯特的数理逻辑纲领最终被哥德尔的不完全性定理否定，即使是更为正面的工作，如法国数学家埃尔布朗或波兰数学家塔斯基提出的一般性定理证明算法，也被发现过于繁琐以致实际上行不通。相比之下，计算化思想则为机器智能的实现提供了新的可能性。虽然公理化数学思想在现代数学中占据统治地位，但数学史上的多次重大跃进却往往与计算化思想有关。计算化思想的主要特征包含构造性和算法性两点，前者重在将推理论证构造为可计算的形式，后者重在在有限资源条件下按照一定的步骤和方法（即程序性）完成计算。不同于公理化思想试图建构一般性智能模型，计算化思想更加强调从问题出发面向应用的求解方法。脑力劳动机械化视角和更具体的数学机械化理论都将机器智能的目的定位为解放脑力劳动，使之用于更有意义的工作。这与公理化数学思想片面追求纯粹逻辑的形式主义道路存在本质不同，而与计算化思想一脉相承。机器智能难以通过建构一般性公理模型的方式来实现，而应在充分考虑现实复杂性的基础上，针对不同问题以形成多样性动态发展的计算方法。以计算化思想为起点，吴文俊提出被称为“数学机械化纲领”的指导思想，即“在数学的各个学科应选择适当范围，既不至于太小以致失去意义，又不至于太大导致不可机械化，提出切实可行的方法，实现机械化，推动数学发展”，吴文俊更强调“应用是数学机械化的生命线”。冯诺伊曼、维纳、图灵将技术视为外生于人类社会的分析视角，这在很大程度上模糊了机器智能的目的和创新原动力，并因此难以看到机器智能不同实现路径之间的差异与优劣。吴文俊以脑力劳动机械化为起点，对数学机械化研究目的的揭示，以及基于公理化数学和计算化数学思想分野对数学机械化不同实现路径的总结，有了新的推进和发展。但仍然存在一些问题，即如果机器智能的研究目的在于“人类脑力劳动机械化”，那解放出来的人类又应该如何体现其价值？尤其是在治理层面，为确保机器智能服务于人类社会发展，维系并挖掘人类从事“更有意义工作”的机会与潜力，我们又应如何改革并完善现有制度体系？哈佛大学法学院教授罗伯特昂格尔（Roberto Unger）对此做了更宏观且全面的论述。3 机器智能与人的结合：昂格尔与“知识经济”机器智能的研究与应用时刻伴随着如何治理的担忧，围绕就业替代与就业创造的持续争论便是核心问题之一。吴文俊从“人类脑力劳动机械化”视角对机器智能研究目的的界定，有利于回应现有质疑，但仍然存在三个问题：一是人类所不能被机械化的脑力劳动究竟是什么，其具有何种价值；二是解放后的人类脑力劳动将如何促进机器智能的发展，使二者能够形成相互促进的关系；三是为实现机器与人的良性互动，最终确保机器智能的进步服Technological Innovation and Talent Development in AI 专题：人工智能科技创新与人才发展25中国科技人才 2023年08月务于人类社会发展，应如何构建并完善治理体系。上述三个问题并不局限于治理层面，其反映的更本质问题是，在机器智能作为新一代技术革命的背景下，何为当前最先进生产力，以及我们如何调整生产关系以释放最先进生产力？昂格尔以“知识经济”为题展开的系统论述，可被视为对此问题的全面回应。昂格尔指出，最先进生产力并非以效率（既定输入下有最多产出）作为评判标准，而是指能否充分释放人类创造力，进而将人类改造自然的活动与人类合作生产的活动紧密结合、相互促进、动态发展，在当前集中体现为以人类知识作为生产要素的“知识经济”13。在对知识经济生产模式、规律与治理进行系统阐释的过程中，昂格尔回答了当前技术革命背景下，机器智能的功能、人的价值，以及机器与人的关系等问题。第一，针对机器智能发展应用背景下的人类价值问题，昂格尔认为是“想象的能力（The Power to Imagine）”，也 即“否 定 的 能 力（Negative Capability）”。传统叙事体系下，以机器学习为代表的人工智能技术的进步，在取代大量人类工作的同时，也开始引发对于人类价值的质疑，尤其是围绕强人工智能的讨论往往模糊了人类所扮演的角色与作用。即使是“脑力劳动机械化”的论述，虽然其希望将机器智能的发展置于辅助人的地位，但仍然未能解释清楚人类在“被解放”之后究竟可以做什么的问题。基于对人类工作分类的思考，昂格尔对此做出了回答。昂格尔认为，人类工作可分为规则类与非规则类两种。前者是指重复性、模块化、范式化的工作，在明确规则下反复进行；后者则是在跳出或否定既有规则的情况下，形成新理念、新发现的过程，而这也被称为“想象的能力”。昂格尔进一步解释了该能力的两个组成部分，即“差距（Distancing）”与“变革性变化（Transformative Variation）”。“差距”是指人类对客观世界的认知并不等同于世界本身，而“变革性变化”则是指人类将其对世界的认知投射至不同环境以理解其变化的可能性，即它将成为什么以及人类可将其变成什么。人类这种“想象的能力”并不取决于大脑的客观构造，而更多来自社会文化、制度的影响与塑造，其核心特征在于“否定性”，即在否定既存前提的过程中更好地探索、突破并形成新的知识假设，以指导后续的知识验证或应用。昂格尔认为，无论机器智能如何发展，人类“想象的能力”都是无法被替代的。即使是当前的机器学习或人工智能，虽然超越了传统机器只能遵守特定规则并重复既定行为的局限，拥有了学习能力，但其仍然只能被称为“元规则类（Meta-Formulaic）”或“后规则类（Post-Formulaic）”。元规则类是指将初始规则植入算法并基于已有案例或经验完成推断或总结，后规则类是指将机器置于特定环境中并通过模仿以形成适应性能力。无论哪种类型，它们都不能形成“否定能力”，并因此难以在此方面替代人类，这就体现了人类的核心价值。第二，在理解人的核心价值之后，接下来的问题是如何发挥机器与人的比较优势，以促成最先进生产力。昂格尔认为，单方面的机器或人都有所缺失，“人机合作”才是理想状态。知识经济作为最先进生产力的核心特征是具有自我复制、自我发展的内生动力，从而在实现连续性创新的同时也扭转了传统生产模式边际收益递减的一般规律。之所以具有该特征，是因为机器智能在不断代替人类重复工作（也即实现了劳动机械化）的同时，人类被解放出来以更多地进入“创新无人区”，从而在不断拓展人类知识边界的同时进一步将更多工作机械化，由此形成机器与人的共同发展。在此过程中，机器智能的知识事实上来源于人类活动，而人类活动在受益于劳动机械化之后又被赋予了开拓并积累更多知识的机会和能力，而这也正是昂格尔笔下“人机合作”的核心内涵。这一特征与前文所述的计算化智能及数学机械化思想一脉相承。计算化智能强26调现实环境的多样性以及结合环境特征寻找一般性解决方案的基本思路，数学机械化纲领强调应划分合适领域并在每个领域探索机械化的实现路径，二者的共性都在于承认人类生产生活活动及其所建构环境的重要性，并强调其作为机械化乃至智能化的不竭源泉。与之相比，公理化数学思想以及追求普适性通用模型的机器智能实现路径则主要依赖于自上而下的逻辑推理与模型构建，从而割裂了人类与机器的相互联系与互动影响，并因此难以认识到“人机合作”的真实意义。第三，理论层面对于人类价值以及“人机合作”重要性的认可，并不代表这一理想状态就会自然发生，治理体系的改革与完善是推动上述理论愿景实现的前提条件。机器智能革命背景下的治理挑战与改革，是当前研究的焦点，但学者大都集中于具体领域的具体问题，因此缺乏宏观层面的整体考量。昂格尔以释放知识经济作为最先进生产力为思维起点，形成了系统性的解决方案。在昂格尔的方案中，推动“人机合作”、实现机器智能与人的结合是主旨，而以下 3 个方面的治理体系改革则成为关键路径。首先，重塑教育体系和工作体系，一方面，使劳动者理解机器智能的优势以及“人机合作”的机制与方式；另一方面，在工作过程中赋予劳动者以探索“非规则”劳动的机会和能力，进而实现知识经济的内生增长13。其次，建设包容性的激励结构，改变建立在“命令控制”基础上的传统管理模式，在扩大劳动者自由裁量空间的同时加强合作信任文化的营造。该项改革的本质是在机器智能不断代替人类重复性劳动的背景下，激发人类探索“非规则”劳动的多元动力，同时协同分散劳动以形成规模经济。最后，通过法律及社会制度的系统性改革支撑生产模式的调整，其核心是重构市场经济的制度架构（包括要素市场、产权制度、政府职责等）以解决发展停滞和不平等问题，而不是停留于需求侧的累进税收或二次分配改革。需要指出的是，昂格尔所提出的上述改革方案并不限于集中体现人类创造力的高科技领域，而是应被推广至所有领域的一般性要求，从而使智能革命推动下的最先进生产力得到进步并推动人类社会发展。以外卖劳动为例，尽管骑手的劳动过程看似具有极强的规则性和重复性，但这并不代表骑手作为劳动者的自主性是可被忽视的，算法难以掌握的道路数据仍需依赖骑手的主动挖掘与知识扩散。为了在劳动者与算法之间形成相互促进的结合关系，昂格尔所提出的整体性改革方案值得研究者与实践者的关注、实验与探索。4 机器智能的未来发展及其治理启示从冯诺依曼到昂格尔，不同时代、不同学科的跨领域对话丰富了本文对于“如何实现机器智能”以及“如何创新治理体系”这两个相互关联问题的理解。也正是在此视角下，我们才得以超越达特茅斯会议对于“人工智能”的功能主义、工具主义界定，进而认识到在环境复杂性和计算复杂性的双重约束下，机器智能对于“人”的依赖与解放，以及在此基础上机器与人形成良性互动并最终实现机器智能服务于人类社会发展的愿景。对于机器智能的实现方式而言，跨学科对话将进一步打开探索机器智能未来发展路径的多重可能性，并明确“人”在此过程中作为知识源泉的核心地位。达特茅斯会议对于“人工智能”概念的界定和明确，有利于凝聚科学共识以推动学科领域的发展，但其功能主义、工具主义的研究视角并不能对机器智能的目的及其发展演化的内生动力给出解释性指引。在达特茅斯会议的视域下，我们回避了对“机器智能能做什么以及不能做什么”这一重要问题的严肃讨论，误以为机器智能的发展目的就是对人类工作的替代，其价值也主要体现为在自动化进程中降低劳动成本或提升劳动效率。这一逻辑面临理论和实践的双重挑战：一方面，数学和计算机Technological Innovation and Talent Development in AI 专题：人工智能科技创新与人才发展27中国科技人才 2023年08月科学领域的“不可计算性问题”始终质疑着机器智能的能力与限度，英国数学物理学家罗杰彭罗斯（Roger Penrose）在 1989 年出版的皇帝新脑一书中即通过严谨的科学论证得出“人类意识（或精神）不可被计算”的结论；另一方面，实践层面追求无人工厂的努力总是面临技术实现和生产绩效的双重困扰，如马斯克在 2018 年的一次采访中明确承认，其大力推进特斯拉工厂的无人化改造，但试图将整个生产流程自动化的努力往往导致生产过程变得过于复杂，因而其又不得不雇用更多的工人以增加生产速度。在正视上述挑战的基础上，随之涌现的问题是：如果机器智能并不能代替人类，那么其价值究竟是什么，人们又该如何实现机器智能所“许诺”的此种价值？冯诺依曼、维纳、吴文俊以及昂格尔渐次而进的思考演化都可被视为对此问题的回答。前三部分的思想史回顾大致可总结为三点：第一，机器智能的作用无外乎是对人类生产生活活动中“机械化/规则化”工作的替代，从而将人类解放出来以进一步探索“非机械化/规则化”的工作；第二，导致机器智能难以替代“非机械化/规则化”工作的根本原因在于环境复杂性和计算复杂性；第三，人类两种工作的分野是动态发展的演化过程，人类在探索不确定性的过程中，不断将“非机械化/规则化”工作转变为“机械化/规则化”工作，并因此成为推动机器智能持续性发展的源生动力。基于上述总结，我们不仅可以明确机器智能的价值所在，同样也可更精准聚焦其实现的方式与边界。关于机器智能本身实现方式的讨论，将自然引出机器智能治理的关键与重心。“治理”视野下对于机器智能的关注主要包括两个方面：对于新技术发展应用风险的回应，以及对于促进新技术发展应用需求的满足。当前研究主要注意到歧视、“黑箱”、隐私侵害等具体治理问题，但仍然缺少一般性的框架解释与指引。换言之，源于机器智能发展应用所引发的治理风险是否存在某种共通性的特征或规律，使得利益相关方可能通过统一的治理框架来加以应对？从冯诺依曼等人的思考看，造成机器智能治理风险的根本原因可被归结为机器智能超出其本身工作范畴而引发的误用性问题。如果承认机器智能的价值在于对人类“机械化/规则化”工作的替代，那么任何超越此边界的应用都将带来相应的治理风险。例如，“黑箱”问题可被理解为机器智能“错误”地替代了“非规则化”的程序正义要求，而歧视问题也是机器智能难以在不同场景下实现“非规则化”的公平原则所导致的偏差。机器智能治理的关键便可一般性地总结为对于“非机械化/规则化”与“机械化/规则化”人类生产生活活动的识别与界定。值得注意的是，对此一般性规律的总结并不意味着多元环境下具体治理议题的分析不重要，环境复杂性和计算复杂性的存在仍然决定了机器智能治理风险的复杂性。另外，当治理体系改革的目标定位为推动机器智能的发展时，冯诺依曼等人的讨论更具有启发意义。如果接受前文关于机器智能实现方式的讨论，那么机器智能治理的根本目标便是实现人与机器的良性互动以释放“人机合作”作为最先进生产力的全部潜力。正如昂格尔提出的 3 个方面改革建议所体现的，机器智能治理的关键并不在于“机器”，而在于“人”。只有将人在探索“非机械化/规则化”工作方面的潜力和能力释放出来，才可能推动机器智能在替代“机械化/规则化”工作方面的可持续发展。也只有在此意义上，特斯拉无人工厂的生产力悖论以及外卖场景下利益相关方对于算法“异化”数字劳动的批判性质疑，才可能在兼顾发展需求与权益保护的同时，得到根本性解决。5 结论与讨论自然科学和社会科学在近代的分离深刻影响了28不同学科领域的知识积累与发展进程，但智能革命引发的治理反思再次“倒逼”二者的对话与融合。仅关注技术层面机器智能的实现方式，或者仅以机器智能应用结果作为讨论治理改革的起点，都难以回应智能革命背景下技术的发展方向以及“我们究竟需要何种技术”等重大问题，而这些问题又是构建人工智能治理体系的前提与基础。冯诺伊曼、维纳和图灵从不同视角对机器智能实现方式的探索看似是自然科学领域中不同技术路线的分歧与争论，实则揭示了机器智能与所处环境的关联性，及其受限于环境复杂性与计算复杂性并寻求突破的过程与机制。因此，人类作为环境的建构者需要被纳入机器智能的讨论范畴，而这也正是吴文俊围绕数学机械化研究的价值所在。在将机器智能定位于“人类脑力劳动机械化”的同时，吴文俊比冯诺伊曼等人更为清晰地明确了机器智能与人各自的真实价值所在。在此基础上，探索如何发挥机器与人的相对优势以释放“人机合作”的生产潜力，才能最终将昂格尔的讨论转换成治理层面的思想解放和制度创新。昂格尔的讨论并未聚焦具体人工智能应用风险的应对，其从教育、管理、制度 3 个维度提出的改革进程恰在宏观层面构成当前人工智能治理的整体性理论框架。从冯诺依曼到昂格尔的思想史回顾，不仅有助于我们超越达特茅斯会议的局限思维，以在更开放的视野下思考机器智能的实现方式，同时也有助于打破当前围绕人工智能治理的讨论窠臼，真正将“人”置于治理关切的中心地位。就未来而言，特定领域机器智能的发展、应用与治理，仍然需要更多的研究与实践，而跨越学科边界的知识交流，理应成为新的前提与常态。Technological Innovation and Talent Development in AI 专题：人工智能科技创新与人才发展参考文献1 MCCARTHY J.Review of the question of artificial intelligence JAnnals of the History of Computing,1988,10(3):224-229.2 贾开,薛澜.人工智能伦理问题与安全风险治理的全球比较与中国实践 J.公共管理评论,2021(1):122-134.3 ACEMOGLU D,RESTREPO P.The wrong kind of AI?Artificial intelligence and the future of labour demandJ.Cambridge Journal of Regions,Economy and Society,2020,13(1):25-35.4 HEIMS S J.John von Neumann and Norbert Wiener:from mathematics to the technologies of life and deathM.Cambridge:The MIT Press,1982.5 MHLENBEIN H.Computational intelligence:the legacy of Alan Turing and John von NeumannM/CHRISTINE L M,LAKHMI C J.In Computational Intelligence.Berlin:Springer,2009:23-43.6 HAIGH T,PRIESTLEY M.Von Neumann thought turings universal machine was simple and neat:but that didnt tell him how to design a computerJ.Communications of the ACM,2019,63(1):26-32.7 TURING A M.Comupting machinery and intelligenceJ.Mind,1950,6(236):433-460.8 GUREVICH Y.Foundational analyses of computationEB/OL.2023-05-03.https:/ TURING A M.Intelligent machineryEB/OL.2023-07-02.https:/www.npl.co.uk/getattachment/about-us/History/Famous-faces/Alan-Turing/80916595-Intelligent-Machinery.pdf?lang=en-GB.10 WIENER N.Father of Cybernetics Norbert Wieners 29中国科技人才 2023年08月Letter to UAW President Walter ReutherEB/OL.(1949-08-13)2021-09-26.https:/libcom.org/history/father-cybernetics-norbert-wieners-letter-uaw-president-walter-reuther.11 吴文俊.吴文俊全集：数学思想卷 M.北京:科学出版社,2019.12 姜伯驹,李邦河,高小山,等.吴文俊与中国数学 M.上海:上海交通大学出版社,2016.13 UNGER R M.The knowledge economyM.London:Verso Books,2019.Going Beyond the Dartmouth Conference:the Realization and Governance on Machine IntelligenceJIA Kai（School of Public Administration,University of Electronic Science and Technology of China,Chengdu 610054,China)Abstract:The Dartmouth Conferences functionalist perspective on AI as a tool for problem solving limits the exploration of other possibilities for AI technology development and governance innovation.Going beyond the Dartmouth Conference and looking back at the historically rich discussions surrounding the implementation of machine intelligence and its governance should be a new starting point for the current exploration of AI governance.The different explorations of Von Neumann,Wiener,and Turing constitute the basic framework for un