“知、情、意”交融的计算机伦理课程教学探索.pdf

181计 算 机 教 育Computer Education第 9 期2023 年 9 月 10 日中图分类号：G642“知、情、意”交融的计算机伦理课程教学探索李 超1，2，柳 宁1（1.上海交通大学 电子信息与电气工程学院，上海 200240；2.上海交通大学 教育技术中心，上海 200240）摘 要：针对新工科背景下大学计算机专业中工程伦理教学存在的主要问题，阐述构建伦理价值与计算技术相融合的教育理念的重要性，剖析课程教学难点，提出一种“知、情、意”交融的计算机伦理课程教学模式，介绍教学实施路径并对比分析专业课程和通识核心课的授课情况，通过教学反馈说明教学效果。关键词：计算机伦理；知识；情感；意志；专业课；通识课文章编号：1672-5913(2023)09-0181-05基金项目：上海高校大学计算机课程教学改革项目“计算机科学中的伦理问题：探索知情意交融的新型工程伦理学类通识课程建设”（沪教委高（2021）47 号）；上海市青年科技启明星计划项目“图分析驱动的云数据中心资源智能化管理”（21QA1404400）；国家社会科学基金重大项目“特大城市社会治理数字化转型的机制与优化路径研究”（21&ZD162）。作者简介：李超，男，教授，研究方向为计算机体系结构、可持续可扩展的高性能计算系统，；柳宁（通信作者），男，教授，研究方向为人工智能与大数据、多媒体信号处理、新一代远程医疗技术等，。0引 言计算机科学是 21 世纪发展最为迅猛的学科之一，也因此催生了一系列重要的社会伦理问题，包括但不限于计算机软件版权、人工智能善恶、大数据隐私、电子游戏沉迷、网络空间安全等。针对计算机的伦理问题讨论自 20 世纪 70 年代起就为学术界所关注，并逐渐演变为一门新兴学科“计算机伦理学（Computer Ethics）”。如今随着社会全面数字化，各行各业人员不能再对计算机引发的伦理问题视而不见。1信息技术伦理现状计算机伦理（信息技术伦理）被认为是工程伦理学大类中最具代表性的一门课程，计算机技术区别于一般工程技术，具有极强的赋能性和延展性。赋能性指的是计算机具有持续改进和赋能强化的作用，而延展性指的是计算机具有无比广阔的应用方式与场景。计算机科学与技术（信息技术）在未来的影响范围将不断扩大，无论是深度和广度，最终将深刻地影响人类所珍视的一切。事实上，从近期 ChatGPT 等人工智能技术带来的颠覆性效应就可以看出，计算机技术的发展速度比想象中要快。随着加强科技伦理治理的呼声日益强烈，计算机技术伦理教育的步伐必须要跟上1。目前来看，虽然科技伦理教育迫在眉睫，但是面向计算机伦理类课程的教学方法还缺乏深入研究2。面向传统理工科课程或哲学社会科学课程的教学研究已经较为丰富，但有关机制策略无法在计算机伦理课程上简单复制，否则会使得课程要么变得与普通工科技术课无异，要么充斥着枯燥的道德说教。在科技伦理教研过程中，若采用工程技术与社会科学“两张皮”割裂开来的做法，显然无法起到应有的效果。计算机伦理课程教学中主要存在两个难点：课程横跨工程科学和社会科学，如何建立一套清晰的知识结构体系；课程涉及抽象理论和行为规范，如何激发学生2023182计 算 机 教 育Computer Education学习兴趣以及主观能动性。可以看出，探索面向计算机伦理课程的新型教学模式具有重要意义。2“知、情、意”交融的计算机伦理课程教学模式“知、情、意”融合式培养的计算机伦理教学理念分别对应理性（知）、审美（情）、伦理（意）三个维度。经过多轮教改，目前已建立一种多维融合的工程伦理学课程体系，使学生能够在学习中实现三位一体的能力提升：增强理性，升华情感，坚定意志。在课程建设中，融入新一代信息技术的基本原理和前瞻性应用场景，对计算机技术和伦理学理论的知识结构进行综合梳理，提高学生在信息时代综合实施伦理分析的能力。在课程授课过程中，避免 IT 知识的简单灌输和道德规则的重复说教，而是注重“动之以情，晓之以理”，培养学生对前沿信息技术的兴趣，加深学生对良好道德的向往，增强学生对自身行为的规范能力。2.1计算机的“知”首先类比人“知”的特征，来谈计算机的“知”。计算机具有一定的认知能力，而且计算机对外部世界的感知范围和能力在不断扩宽、增强。例如，目前已经有多模态智能计算，能从语音、文本、图像等多个维度如人一般理解世界，但也可以看到，机器往往快而不准、人类往往准而不快，在许多场景下依然需要人机协同才能完成目标。因此，计算机的知依赖于算法、算力、数据，是否能够信赖计算机的判断则需具体案例具体分析。“知”关乎知识，在教学过程中对应原理类内容。针对这一块，课程重在加强计算机科学和伦理学方面的知识联络，帮助学生构建合理的知识结构体系，从技术角度来看理性判断系统设计的“好坏对错”，增强对未来技术影响的洞察力。2.2计算机的“情”接着类比人“情”的特征，来谈计算机的“情”。计算机已经融入我们的生活，需要从情感体验上被我们所接受。如今火爆的人工智能生成内容（AIGC）已经涉猎音乐文学艺术等方方面面，一些智能机器人还将成为人们生活中的精神伴侣。因此，学生需要看到，计算机在设计过程中有必要融入正面的积极的美感。这里有许多重要的问题值得提出，例如：未来人机共存情况下计算机以什么形态/方式与人交互？在人机交互过程如何丰富我们的体验？计算机游戏中如何能够传达优良的价值？数字化艺术是否真正包含美感？我们会爱上计算机表达的“美”吗，会习惯人机共存的生活环境吗？“情”关乎体验，在教学过程中主要涉及案例类内容。教育领域日益重视学生的情感体验3，计算机技术课程亦当如此。此处课程需要结合实际生活，以丰富的案例让学生设身处地体察人性，激发学习兴趣，澄清世界观，培养以人为本的技术发展理念。2.3计算机的“意”最后类比人“意”的特征，来谈计算机的“意”。随着计算机融入人们生活方方面面，其决策和行为都需要在实践中被审查。如今人们不仅期待计算机能改善生活，还要求他们不可作恶。关于“意”的介绍是课程最重要的部分，学生需要认识到，计算机必须要有能够正确实践的能力，具有一定道德水准，必须要融入当今社会的核心价值观。理查德梅森（Richard Mason）于1986年在信息时代的四大伦理问题 中曾指出，信息时代伦理问题繁多，主要可以关注四大类，包括隐私（Privacy）、准确性（Accuracy）、所有权（Property）、可及性（Accessibility），简称PAPA 框架。这四大原则虽然捕捉到了计算机设计中的一些本质问题，但依然存在漏洞，无法解释当今一些新涌现的技术问题。通过对 PAPA 框架的反思，我们可以引导学生思考，目前尚没有一个完备的伦理学框架，那么计算机如何保证不犯错？计算机从业者唯有强化伦理训练，在实践中增强道德意识，才能确保行业发展正确向前。“意”关乎实践，因此在教学过程中重在阐述规范类知识。学生需要掌握计算机伦理学方面的若干黄金准则，在学习过程中锻炼道德觉悟和敏感性，发挥个人能动性，身体力行合乎道德的行为。3实施路径课程自 2020 年起，连续 3 年对计算机伦理教育与教学研究第 9 期183的教学模式进行优化，并多次在中国计算机大会（CNCC）上作论坛学术报告分享我们的授课经验。具体地，我们同步在一门全校通识核心课“计算机科学中的伦理问题”以及计算机系专业必修课“计算机伦理学”上进行了对比。3.1教学模式课程首期完成核心信息技术和伦理学理论知识内容的收集、匹配和整理，随后形成了一系列具有吸引力的课堂案例，从而在课堂上开展道德现场观察和分析，最后总结出一套易用的计算机伦理学指导原则，促进学生形成自己的思维范式。经过多轮迭代，借助资料检索、专家咨询、问卷调研等方式，循序渐进推进项目，提升课程建设效果。3.1.1 通识核心课情况介绍通识核心课主要面向非计算机专业学生，在最近一次的选课学生统计中，约 64%是理工农医，8%为文学艺术，7%为社会科学，3%为自然科学。本课程旨在讲授和思索“机器发展与人的发展之间的问题和矛盾”。课程内容涉及到人、技术、自然三者之间的基本关系。为帮助学生建立良好的知识结构，循序渐进领会计算机科学中的伦理问题，课程拟设置为两大板块。第一板块主要是介绍经典伦理学理论，帮助学生打好理论基础。课程有点有面，既综合介绍各哲学流派思想和相关伦理概念（面），也深入介绍核心重点理论（点）。第一板块主要的伦理学内容如下。（1）导言：伦理学研究什么？计算机伦理学为什么重要？（2）挑战：伦理学历史上面临的重要问题和挑战？（3）价值：伦理学的核心，如何理解善恶对错，如何看待利己主义？（4）行为：究竟怎样的行动是好的，什么是义务论和结果论？（5）美德：应该拥有怎样的品格，为何说美德即技艺？（6）变革：技术究竟中立吗，对伦理学又怎样影响？第二板块主要是介绍计算机伦理学问题，帮助学生丰富实战经验。课程案例以技术领域分门别类，具体围绕首字母为 ABCDEFGH 的八大类典型计算机应用问题展开工程伦理思考。每次课的上半讲重视技术讲授，后半讲重视伦理思辨。（1）A（Artificial intelligence），人工智能；（2）B（Big data and its applications），大数据及其应用；（3）C（C lo u d co mp u tin g a n d its applications），云计算及其应用；（4）D（Data duplication and copyright），数据复制和版权；（5）E（Edge and ubiquitous computing），边缘智能和普适计算；（6）F（Facebook and social media），脸书的诞生和社交媒体；（7）G（Gaming and virtual reality），游戏和虚拟现实；（8）H（Hacking and computer security），黑客和计算机安全。3.1.2 专业必修课情况介绍选修本门计算机专业课的学生大多进入到专业后半段，已经形成了不同的研究兴趣和科研背景。据我们最近一学期的调查，其中 69%的学生兴趣是人工智能与多媒体相关，64%是计算机软件和数据库相关，15%主要与自动驾驶、元宇宙等综合新兴技术相关，12%关注互联网和移动互联网，7%关注高性能计算和体系结构，最后还有 8%的学生关注其他 IT 技术。专业课程更细分为三大板块，第一板块中，介绍经典伦理学理论；第二板块中，加强技术伦理和专业责任的讲授；第三板块中，重视道德现场和案例分析。与通识课不同，结合学生背景适度削弱了对技术内容的阐述，改为强调 21 世纪 IT 从业者这一身份背后所肩负的重要使命，采用循序渐进的案例引导学生思考伦理问题。具体地，案例讲授不再是分 ABCDEFGH 八大类对计算机各领域做拆分，而是对案例进行充分糅合，改为以核心伦理话题为牵引，分“健康安全、自由尊重、隐私保护、公平公正、真实可信、产权利益”这 6 个与人们生活息息相关的伦理话题依次进行讨论。2023184计 算 机 教 育Computer Education上述 6 个话题的介绍次序也是依据课上学生投票，按照关注度选出的。3.2伦理价值融入方式在实践过程中，我们采取拟人化方式，把计算机相关问题分为 3 个层次。计算机系统结构即其外部物理组成，对应人的物质基础；计算机的数据模型对应人的内在精神与思考，决定计算机的行为方式；计算机的输出产品对应人的知识创造，服务于社会。图 1 为计算机系统的拟人化 分层。sensitive computing stack，VSCS）这一新概念，自底向上逐层引入人的价值和特性。表 1 中我们给出基于 VSCS 的伦理价值融入方式。在表 1 中，计算机的产品和输出以及应用和接口主要对应人的“情与意”。这意味着计算机技术需要考虑到人的审美，考虑到道德规范。例如，如果系统设计不能符合大众的审美，甚至带来感官上的冒犯，则属于欠缺对“情”的注入，不利于构建和谐社会。又如，如果系统设计不能照顾到大多数人的使用，甚至加剧社会的不公平性，则有关设计在“意”上缺乏深入思考，同样会影响社会稳定。进一步的，在计算机的数据和模型以及软件和平台方面，主要对应人的“意与知”。换句话说，对于指导计算机如何运行的中央引擎来讲，其必须考虑到道德规范和认知能力。我们设计的数据和模型必须在适当的范围内，不能选择具有偏见或者超过最小必要性的数据；使用的软件和平台也需要在功能性、准确性方面有所保证，软件工程师必须要有广义的责任观。最后，在底层计算机系统和网络以及硬件与设施方面，主要对应人的“知与请”。关于“知”方面，在底层设施我们必须严格依照技术规范，保证系统的可靠性和可用性，保证系统的服务质量。关于“情”的方面，我们还需要重视审美，即有关设备的形态规格是否符合人们的内心需求。图 1 计算机的拟人化分层第三层次：知识的 计算机的输出产品 第二层次：精神的 计算机的数据模型 计算机的系统结构 第一层次：物质的 在上述层次结构基础上，课程探索价值敏感的 设 计（value-sensitive design，VSD）。VSD 是一种方法论，在整个技术过程中全面地引入人类的价值4。在计算机系统设计中如何践行这种价值敏感的设计，以及如何在教学中教授这种思想，是课程关注的问题。此前文献中并未有深入的研究思考，为了将 VSD 理念拓展至计算机教学，我们提出“价值敏感的计算栈（value-表 1 价值敏感的计算栈 VSCS计算机层次（栈）重点讲授维度案例设计过程中关注的代表性问题产品和输出“情”与“意”情：是否符合大众审美、是否正面乐观；意：是否促进公平公正应用和接口“情”与“意”情：是否符合大众审美、是否正面乐观；意：是否具有人性关怀数据和模型“意”与“知”意：数据完整性和必要性；知：准确性和精度需求软件和平台“意”与“知”意：自由共享、版权归属；知：平台的赋能性、可靠可用性系统和网络“知”与“情”知：计算可扩展性、可靠可用性；情：是否符合大众审美硬件和设施“知”与“情”知：环境可持续性、可靠可用性；情：是否符合大众审美3.3教学反馈设计专门问卷对上述两门课程进行了期末调研，询问学生对于人与机之间“知、情、意”相似性以及未来发展趋势的看法。大多数学生（62%的专业课学生和 54%的通识课学生）认为计算机只有最多三分像人类，七分以上是工具。在“知”的方面，计算机专业学生相对谨慎，倾向于认为计算机比人的认知能力差（63%的专业课学生）。与之对比，认为计算机无法与人认知能力媲美的通识课学生并未过半（只占 49%）。教育与教学研究第 9 期185参考文献：1 新华社.中共中央办公厅 国务院办公厅印发关于加强科技伦理治理的意见EB/OL.(2022-03-20)2023-02-20.http:/ 冯继宣.IT人才培养中的伦理教育J.计算机教育,2007(3):65-68.3 黄忠敬.教育的“情感转向”与“全人”培养EB/OL.(2023-01-17)2023-02-01.https:/ 张贵红.价值敏感设计与大数据伦理J.伦理学研究,2019(2):114-119.（实习编辑：欧 阳）在伦理道德方面，无论是专业课学生还是通识课学生，都有超过三分之二的比重认为目前计算机无法达到人的水平，且在审美方面虽有特色但明显美中不足。关于未来技术发展趋势，有 48%的计算机专业课学生对于计算机朝着人的方向发展整体持乐观态度。与之对比，选修通识课学生要更加乐观，有 56%的学生认为计算机未来会更加像人。从学生对课程教学的过程反馈和期末评价来看，两门课程都得到了优良的评价，其中通识课在全校所属学科大类 900 多门课程位列前10%（A 档）4结 语课程历经持续课程改革和探索，初步形成了一套具有鲜明特色的计算机伦理课程内容体系，并完成了 3 轮完整课程教学，得出了一条关于计算机伦理学的有效授课路径，适用于专业课以及通识课。让计算机具备人的核心价值观是一项重要的任务，虽然目前还处于起步阶段，但是课程调查显示学生对此整体报有积极和乐观的态度。我们有必要在教研中将“知、情、意”元素融入计算机的设计栈中，加强计算机伦理课程建设，加强思政融入，培育更多合格的 21 世纪信息技术人才。基本信息：书名：离散数学（第 4 版）ISBN：978-7-302-61396-1作者：屈婉玲、刘田、耿素云、张立昂出版单位：清华大学出版社定价：66 元内容简介：北京大学优秀教学团队编写。离散数学经典畅销教材。普通高等教育国家精品教材，普通高等教育“十一五”国家级规划教材，国家精品课程和国家级精品资源共享课程主讲教材。教学资源丰富，配套有习题解答与学习指导、PPT 电子课件、在线作业系统、数字课程等。本书参照 ACM 和 IEEE CS 最新推出的 Computing Curricula，根据教育部高等学校计算机教指委编制的高等学校计算机科学与技术专业规范 中关于离散数学的知识结构和体系撰写。内容包含证明技巧、数理逻辑、集合与关系、函数、组合计数、图和树、初等数论、离散概率、代数系统等。本书体系严谨，文字精练，内容翔实，例题丰富，注重与计算机科学技术的实际问题相结合，并选配了大量难度适当的习题，适合教学。另外，本书有配套的习题解答与学习指导等教学辅导用书，以及用于课堂教学的 PPT 演示文稿、在线数字资源等，以满足教学需要。本书适合作为高等学校计算机及相关专业本科生的离散数学课程教材，也可作为对离散数学感兴趣的人员的入门参考书。本书特色：符合教育部高等学校计算机教指委发布的高等学校计算机科学与技术专业规范，围绕核心知识点精心选材，教学目标定位清晰。引入了较多的来自科研和工程实践的典型实例，注重把离散数学严谨的知识体系与计算机科学技术的发展相结合。凝练了多年的课程建设成果，内容覆盖合理，习题选配恰当，语言通俗易懂，教学资源丰富，适合教学使用。