老年护理机器人的“欺骗性”风险及其防范.pdf

老年护理机器人的“欺骗性”风险及其防范*于雪赵天一摘要：机器人的“欺骗性”指的是机器人的外观或行为会导致对其功能的高估，并进而导致关于机器人功能和角色的错误认知。老年护理机器人有可能因为不当使用而产生“欺骗性”风险，主要表现为情感上的过分依赖、社交中的关系错位与道德上的责任转嫁。产生这些风险的原因在于虚拟与现实的模糊、感性与理性的冲突、关怀与责任的缺位。应对并防范由老年护理机器人引发的“欺骗性”风险可以从三个方面入手，即在设计上坚持负责任的态度，在使用中体现人文关怀与护理责任，在治理上探索尝试性治理模式。关键词：老年护理机器人，欺骗性，虚拟性，风险治理中图分类号：R-05文献标识码：A文章编号：1002-0772(2023)12-0040-04DOI：10.12014/j.issn.1002-0772.2023.12.09The Deceptive Risk of Geriatric Care Robots and Its PreventionYU Xue,ZHAO Tian-yiFaculty of Humanities and SocialSciences,Dalian University of Technology,Dalian 116024,ChinaAbstract：Thetermdeceptivereferstothefactthattheappearanceorbehaviorofarobotcanleadtoanoverestimationofitsfunctionand,consequently,tomisperceptionsaboutitsfunctionsandroles.Then,theremaybeadeceptiveriskduetotheimproperuseofgeriatriccarerobots,mainlyintermsofemotionaloverdependence,socialmisalignment,andmoraltransferofresponsibility.Thecausesoftheseriskslieintheambiguitybetweenvirtualandreality,theconflictbetweensensibilityandrationality,andtheabsenceofcareandresponsibility.Todealwithandpreventthedeceptiveriskscausedbygeriatriccarerobots,wecanstartfromthreeaspects,namely,adheretoaresponsibleattitudeindesign,reflecthumanisticcareandnursingresponsibilityinuse,andexploreatentativegovernancemodelingovernance.Key Words：geriatriccarerobots,deceptiveness,virtuality,riskgovernance全球人口老龄化使老年护理行业的供需矛盾加剧，而老年护理机器人的出现为破解养老难题提供了可能。然而，随着老年护理机器人的推广和普及，由其引发的伦理争议也日渐凸显。其中，关于老年护理机器人引发的“欺骗性”问题受到了学界的关注。老年护理机器人的“欺骗性”是什么？如何防治？为此，本文将从老年护理机器人“欺骗性”的表现、伦理风险、成因以及预防措施这几个方面进行探讨，从而为老年护理机器人的合理化推广提供伦理支撑。1老年护理机器人的“欺骗性”表现及伦理风险1.1老年护理机器人的“欺骗性”内涵所谓老年护理机器人，是指能够在日常事务与基本需求方面为老人提供帮助与支持，具有生活辅助、健康监测、日常陪伴等功能的机器人1。目前，最新一代的 Care-O-bot4家用护理机器人不仅在外形上拥有类似人类的躯体、手臂和头部，而且可以通过电子屏幕模仿人类的表情，并根据预定程序做出一些动作来配合表达自己的“情感”221。这些拟人化的设计被认为是必要的，有助于提高使用者对老年护理机器人的接受程度，进而建立人机之间的联系，推动双方进行有意义的交流与互动。然而，罗伯特斯帕罗（RobertSparrow）和林达斯帕罗（LindaSparrow）3却提出了担忧，拟人化设计似乎使老年护理机器人产生了“欺骗性”，它以生命表象掩盖了老年护理机器人的非生命本质，进而通过引导老年人对机器人的想象或自我欺骗以提供“良好护理”。阿曼达沙基（AmandaSharkey）和诺尔沙基（NoelSharkey）4将这种“欺骗性”理解为：机器人的外观或行为会导致对其功能的高估，并导致关于机器人功能和角色的错误认知。1.2老年护理机器人“欺骗性”的具体表现具体而言，老年护理机器人的“欺骗性”具有多种表现，包括情感、社交和道德三方面。首先，为了满足老年人尤其是独居老年人的情感需求，越来越多的老年护理机器人被设计出了人格化的“人工情感”。然而，这类具有“人工情感”的机器人仅表现出了与人类情感的相似性，并不能表现出真正的情感反应并理解人类的情感3。“人工情感”的植入反而使老年护理机器人表现出与非生命本质不符的情感特征。即使老年护理机器人并非有意隐瞒自身的本质，但拟人的人工情感却自带“欺骗性”。在人机情感交流中，“人工情感”营造的情感假象可能致使老年人高估机器人的情感能力，产生偏离其非生命本质的错误认识。例如，前文中提到的机器人 Care-O-bot4，在得*基金项目：2022 年国家社会科学基金项目（22BZX025）大连理工大学人文与社会科学学部辽宁大连116024作者简介：于雪（1989-），女，博士，副教授，研究方向：技术哲学、技术伦理。E-mail：医学高新技术伦理医学与哲学 2023年 6月第 44卷第12期总第 719 期40Medicine and Philosophy,Jun 2023,Vol.44,No.12,Total No.719 到人类的赞美与肯定之后，能够通过电子屏幕做出“笑脸”来表现自己的情感能力222。然而，在现有的技术条件下，有关人工情感的研究还处于模型验证阶段。人工情感模型虽能使机器人模拟人的部分情感，但尚不能达到机器人与人进行无障碍情感交流的地步。这也就意味着，老年护理机器人对老年人造成的“情感欺骗”随时有可能被揭穿，彼时将对那些对机器人投入了情感的老年人造成伤害。其次，越来越多的老年人由于身体不便，加之缺乏社会与家人的关心，致使其交往范围缩小、社交能力下滑，面临心理问题与精神危机。为此，老年护理机器人试图与老年人建立社交关系，以缓解老年人的内心孤独感并提高社交能力。然而，这种社交上的关怀可能无益于真正提高老年人的福祉3。一方面，老年护理机器人看似填补了老年人社会交往的空缺，但无形中减少了老年人与他人接触的机会，反而加剧了内心的孤独感。另一方面，老年护理机器人作为一种商品，为了让老年人在交往中获得精神慰藉，其设定通常是“完美人格”并表现出无条件的服从性。但是，在现实的人际交往中并不存在这样的人类主体，他人也可能拒绝服从对方的要求。因此，老年护理机器人使老年人相信自己的社交能力得到了提高，但实际效果却难以保证，甚至会弱化老年人原本的社交能力，存在社会交往上的欺骗性。最后，随着机器人拟人化程度的加深，老年护理机器人的“主体性”特征也愈发明显，不仅在外观上更贴合人类，而且表现出了情感交流、自主学习、自主决策等能力。在此情形下，有关老年护理机器人是否应当涉及道德考虑，以及能否通过善待机器人以培养人类美德等问题也引发了人们的思考。然而，珊伦瓦洛尔（ShannonVallor）5认为，机器人只是表现得好像拥有对等的关系与情感，实际使用机器人照顾老年人反而有可能会造成人类美德的潜在损失。人们一般认为外观跟人类接近、拥有较高智能的机器人应该得到尊重，因此人类可能对机器人的道德能力产生较高的期望6。然而，人们对老年护理机器人进行道德考虑并试图以此培养美德的想法，可能来自欺骗性所产生的幻觉7。如果老年人在错误引导下将其视为与人类相似的道德主体，或高估机器人的道德能力与道德地位，就有可能引发道德层面的“欺骗”。例如，英国卫报报道，2018 年在日本的兴福寺出现了僧侣们为百余个停产的老一代“AIBO 机器狗”举行超度仪式8。1.3由“欺骗性”引发的伦理风险老年护理机器人的“欺骗性”表现，如果处理不得当，那么就可能招致伦理风险，包括情感上的过分依赖、社交中的关系错位与道德上的责任转嫁。首先，随着老年护理机器人情感能力的提升，它们可以更好地迎合老年人的情感需求，并以个性化的交往方式与人建立情感联系9。然而，老年护理机器人的讨好型人格却可能使老年人在人际交往中，因预想与现实之间的差距而产生较大的心理落差，致使老年人对人际交往心生抵触，在心理上对机器人产生依赖。对于长期与老年护理机器人共同生活的老年人，尤其是那些感到情感孤独的“空巢老人”，紧密的情感联系与现实的心理落差可能催生出在情感上的过度依赖。例如，纽约时报报道，在日本部分老年人热衷于与“AIBO 机器狗”共同生活，甚至将其作为自己的情感依托而难以割舍10。这不仅有碍于老年人维系与亲人、朋友之间的情感关系，而且也有可能对个人的道德观念产生深远影响9。其次，出于移情，老年人在社交中可能将老年护理机器人视为真正的社会成员，进而对其产生过高的期待，如此则有可能造成社交中的关系错位，即老年人将老年护理机器人作为自身社交活动的主要对象。例如，机器人PrimoPuel 借助与人交谈、傻笑和索要拥抱等社交功能，获得了日本老年女性的欢迎1。老年人对老年护理机器人的真诚相待无可厚非。然而，这种对老年护理机器人的不合理期望却是有问题的。如果老年护理机器人成为老年人日常生活中主要的社交对象，那么这可能大量减少老年人原本与人交往的时间与机会，出现人机交往与人人交往失衡的现象，不利于老年人维持正常的社会关系与家庭关系。此外，在面对利益选择与价值冲突时，社交中的关系错位可能使老年人因过分信任机器人“朋友”与“家人”而做出错误的道德判断，乃至犯下难以弥补的伦理错误。最后，老年护理机器人的使用不仅在一定程度上满足了老年人的护理需求，也减轻了子女的护理压力。例如，机器人 Era 能够帮助老年人完成穿衣、清洁、做饭等日常活动，还具备语音交流功能11。在此情形下，子女或更愿意使用老年护理机器人照顾老人，以缓解自身的养老压力，将自身应履行的孝养责任转嫁给机器人并使其代行。从技术角度来看，这种现象是科技发展的必然结果。然而，如果子女由此而忽视履行赡养老年人的责任与义务，乃至完全抛弃孝养责任，则可能造成道德上的责任转嫁。以老年护理机器人代替子女养老，不仅有弱化孝养责任使孝道降阶化的风险，还可能因子女未能行孝道而引发孝养关系疏离化的伦理问题11。2老年护理机器人“欺骗性”风险的成因分析诚然，老年护理机器人的拟人化设计可以造成“欺骗性”问题，但更深层的原因主要有三个方面：虚拟与现实的模糊、感性与理性的冲突、责任与关怀的缺位。2.1虚拟与现实的模糊近代以来，随着信息通信技术的发展，原本虚实之间严格区分的状态逐步被打破，虚拟物可以借助人工物的力量来到现实世界并对现实产生影响。在此背景下，以人类护理场景为蓝本，依靠在现实中营造逼真护理情境而提供服务的老年护理机器人，却产生了“欺骗性”。这是因为，一方面虚实界限的模糊可能造成老年人在认知上的疲劳，使其难以区分虚拟与现实。老年护理机器老年护理机器人的“欺骗性”风险及其防范于雪等医学与哲学 2023年 6月第 44卷第12期总第 719 期Medicine and Philosophy,Jun 2023,Vol.44,No.12,Total No.71941人的拟人化虽然不一定使人忽视它的工具本质，但会让人有意或无意地放弃对机器人本质属性的思考与怀疑12。在虚实界限模糊的情形下，老年人要花费更多精力以保持对老年护理机器人及其护理本质的正确认识。然而，由于长期游离于虚拟与现实之间，老年人可能产生认知上的疲劳，逐渐厌倦区分护理中的虚实与真假，转而简单地将机器人所营造的表象信以为真，从而造成了欺骗风险。另一方面，虚实界限的模糊可能造成老年人的不安全感，从而引发“欺骗性”问题。模糊的虚实界限还可能导致老年人心理上的不安全感，担忧在虚实交织的护理中老年护理机器人可能存在潜在的欺骗行为，甚至认为自己处于一个由机器人所营造的护理假象之中。这使老年人对老年护理机器人所提供的护理缺乏信任，从而认为其具有“欺骗性”。2.2感性与理性的冲突人作为认识的主体，既有对事物的感性认识也有理性认识。因此，在人机交互中，老年人可能出于移情与共情的感性因素产生与客观现实不相符的认识，这种认识上的冲突造成了老年护理机器人的“欺骗性”。所谓移情，是指行为者将自身已有经验或强烈情感转移到陌生主体身上的行为，是从自身延展到他人的单向情感行为13。而共情则是指人们通过类比的方法直接感知和理解他者的行为和感受的现象，是从自身到他者再由他者到自身的双向情感行为14。两者既是人类的一种社会性本能，也是人们彼此相互理解、尊重和做出利他行为的情感基础。一般情况下，移情和共情发生在人与人之间。然而，随着人工情感技术的进步，移情和共情也可能出现在人机之间。尤其是老年人在使用护理机器人的过程中也可能对机器人产生这种移情与共情。但是，老年护理机器人的设计和使用中有可能恰好利用了老年人的感性特点，通过特定的视觉、听觉和触觉刺激来引导和塑造老年人的看法，致使老年人缺乏对机器人的理性认识而产生过高期待。从理性角度来看，这不仅有碍于老年人正确认识机器人的本质特征，而且未能正确认识和理解世界本身也是道德失败的一种可能表现3。由此，感性与理性的冲突也是老年护理机器人产生“欺骗性”的重要原因之一。2.3责任与关怀的缺位传统意义上的护理是指人对人的护理，是一种出于维护病人利益所从事的活动。然而，越来越多的老年人却因家庭成员与社会共同体在责任和关怀上的缺位而过度依赖机器人养老。这是因为，一方面我国现有护理行业陷入“用工难”局面，而传统的家庭养老模式也日渐式微，养老劳动力资源的短缺使老年人面临着无人护理的窘境15。另一方面，老年护理机器人的进步又推动了养老智能化的发展，机器人不仅功能全面，而且相比于人类护工在耐心、稳定性和持续性上更具优势。在现实与技术的双重作用下，子女与社会共同体更倾向于使用老年护理机器人照顾老年人，用以填补养老劳动力空缺的同时，也将赡养责任与护理关怀交由机器人代行。然而，一方面这可能带来对老年护理机器人的过度使用，加之家庭与社会在责任与关怀上的缺乏，老年人可能形成对机器人的依赖，甚至产生错觉将其视为自己的“亲人”。另一方面，护理中所有的价值与品德都是互惠的，这要求双方的道德水平应该具有对等性5。老年护理机器人可以给予老年人基本的护理服务，却并不具备与人相同的道德水平，难以让老年人感受到真正的亲情与关怀。因此，在使用中老年人可能认为老年护理机器人存在“欺骗性”，并不能真正关心自己与提供良好护理。3老年护理机器人“欺骗性”风险的纾解之道3.1在设计上坚持负责任的态度防范老年护理机器人的“欺骗性”风险，首先应当将责任伦理贯穿于设计的全过程之中，坚持负责任的态度。在设计与研发中，设计师应该秉持负责任的态度，对可能出现的“欺骗性”风险采取必要的预防性措施。一方面，设计师应将老年护理机器人与人类做深度区分，增加拟人化程度的可调节功能，追求虚实之间的恰当平衡。另一方面，在老年护理机器人的内在程序、外在形象上采取“熔断机制”，避免长时间使用带来的欺骗可能。例如，设计师可以在老年护理机器人的情感程序中加入允许用户自主设定的功能，使老年人可以自主调节机器人的情感表达能力。这不仅提高了老年人的自主性与对机器人的掌控力，也可以因地制宜地进行情感交流。在外观上，设计师可以对老年护理机器人的形象进行改造，在形象友好的基础上增加“非人”要素，从而避免拟人机器人带来的“欺骗性”风险。例如，日本研发的老年护理机器人 Paro就采用了海豹的外形和仿真的皮毛216，以宠物的外形进入用户的生活中，降低老年人对机器人产生过高的期待与想象的可能。此外，设计师也可以增添调节老年护理机器人使用时间的功能，以防在长时间使用之后老年人对机器人产生情感依赖。3.2在使用中体现人文关怀与护理责任应对“欺骗性”风险，还要关注护理中责任与关怀的缺位问题，探究如何在使用阶段展现人文关怀与护理责任才能有效防范欺骗风险。为此，人们要正确认识老年护理机器人在护理活动中的地位与作用。老年护理机器人能够给老年人带来丰富的主观体验，却难以给予真正的人情温暖与关怀，它的主要目的是缓解老龄化带来的“护理危机”，而不是在护理活动中完全代替人类。然而，片面强调老年护理机器人的欺骗风险而放弃使用也是一种错误的做法。正确的态度是让老年护理机器人成为护理活动的合作者与辅助者，有限度地合理使用护理机器人。因此，使用老年护理机器人时应该展现人的主体责任，寻求人机合作的平衡点。老年护理机器人的“欺骗性”风险及其防范于雪等医学与哲学 2023年 6月第 44卷第12期总第 719 期42Medicine and Philosophy,Jun 2023,Vol.44,No.12,Total No.719 一方面，在护理活动中，人类护工仍然是必要的，并且应该掌握护理活动的关键部分；而老年护理机器人则可以承担护理活动中重复性和机械式的劳动工作，以及部分的情感交流、社交活动等方面的护理工作。另一方面，要推动护理者积极关注老年人的身心健康，主动履行应尽的护理义务。例如，子女在使用老年护理机器人照顾老年人的同时，也不能忽视对父母的关怀与陪伴，明确赡养父母是每个子女应尽的义务，更加注重孝道的培养。医院、养老院等机构应该科学化、人性化地使用老年护理机器人，注重老年人的体验与需求，探寻人机互助的新型护理模式。3.3在治理上探索尝试性治理模式老年护理机器人的“欺骗性”风险不仅涉及设计与使用，还包括护理双方、机器人企业、政府、科研单位、高校等与之相关的利益相关者。因此，要想化解老年护理机器人的“欺骗性”风险，还需探索尝试性的治理模式。由于传统的治理模式力图在早期就达到预定的治理目标而忽视了治理的长期性和偶然性，因此一种以谨慎的、非决定性的方式管理突发且相关事件的“尝试性治理”（tentativegovernance）引起了重视16。它旨在建立一个科技伦理框架，然后向特定的方向推进，给治理主体创造探索和学习的空间，具有灵活性、暂时性和开放性等特点。据此，应对老年护理机器人的欺骗风险，总体上要坚持“自上而下与自下而上”相结合的治理方法。所谓“自上而下”是指由国家参与和主导，治理上体现出实验、学习、自反性和可逆性的特点。所谓“自下而上”则是指在国家主导的前提下，政府更加重视下层与现有政策和规则的互动，促进利益相关方的建设性参与17。为此，政府可以在保证老年护理机器人灵活发展的前提下，根据伦理原则制定法规和指南，在进行深入调研与充分听取社会各级主体的建议和反馈之后，不断完善法规和指南的细节要求，形成在设计与使用方面的规范框架。此外，还要提高跨学科共治能力。在设计过程和使用过程的审查与监管上，不仅要依靠科学家和技术专家的专业知识，更要推动伦理学、心理学、法学、社会学等领域专家的广泛参与，发起开放式讨论和对话，充分接纳各方提出的合理意见，从而使治理更具适应性。总之，老年护理机器人是未来养老的一种有效手段，如果人们能够充分认识到其中存在的“欺骗性”风险，并积极采取有效措施，那么护理机器人将成为缓解人口老龄化问题的重要方式之一。参 考 文 献李小燕.老人护理机器人伦理风险探析J.东北大学学报:社会科学版,2015,17(6):561-566.1DUANF,LIW,TANY.IntelligentRobot:ImplementationandApplica-tionsM.Singapore:SpringerNatureSingapore,2023.2SPARROWR,SPARROWL.Inthehandsofmachines?:ThefutureofagedcareJ.MindMach,2006,16(2):141-161.3SHARKEYA,SHARKEYN.Weneedtotalkaboutdeceptioninsocialrobotics!J.EthicsInfTechnol,2020,23(3):309-316.4VALLORS.CarebotsandCaregivers:SustainingtheEthicalIdealofCareintheTwenty-FirstCenturyJ.Philosophy&Technology,2011,24(3):251-268.5杜严勇.论机器人道德能力的建构J.自然辩证法研究,2018,34(5):43-48.6COECKELBERGHM.Doeskindnesstowardsrobotsleadtovirtue?:Areply to Sparrows asymmetry argumentJ.Ethics Inf Technol,2021,23(4):649-656.7MCCURRY J.Japan:Robot dogs get solemn Buddhist send-off atfuneralsEB/OL.(2018-05-03)2023-05-26.http:/ A,SHARKEY N.Granny and the robots:Ethical issues inrobotcarefortheelderlyJ.EthicsInfTechnol,2012,14(1):27-40.12韩玉胜.斯洛特移情关怀伦理学的价值内涵及其局限J.哲学研究,2017(11):107-113.13王慧莉,李雪娇.现象学视域下人机交互的主体间性分析J.东北大学学报:社会科学版,2020,22(5):16-22.14逯改.智能养老护理机器人的伦理反思与建议J.医学与哲学,2022,43(13):47-51.15KUHLMANNS,STEGMAIERP,KONRADK.Thetentativegovernanceofemergingscienceandtechnology:AconceptualintroductionJ.ResPol-icy,2019,48(5):1091-1097.16LYALLC,TAITJ.Beyondthelimitstogovernance:Newrulesofengage-mentforthetentativegovernanceofthelifesciencesJ.ResPolicy,2019,48(5):1128-1137.17收稿日期：2023-04-08修回日期：2023-06-01(本文编辑：于磊)老年护理机器人的“欺骗性”风险及其防范于雪等医学与哲学 2023年 6月第 44卷第12期总第 719 期Medicine and Philosophy,Jun 2023,Vol.44,No.12,Total No.71943