机器人公共服务的伦理：机器人设计的作用及其行动外文翻译资料

英语原文共 11 页，剩余内容已隐藏，支付完成后下载完整资料

机器人公共服务的伦理：机器人设计的作用及其行动

摘要: 公共行政部门在开发“智能”公共服务方面投入了大量资金，包括自主的公共服务机器人。由于公共服务机器人被设计成可以在无人监督的情况下操作，因此机器人必须以一种道德上可接受的方式与公民进行互动。设计机器人通常是为了提供公民舒适的互动，这可以通过使机器人的外观和动作更像人来实现。这就提出了一个问题，即类似人类设计是否会影响对机器人行为的伦理评估。在一个带有眼球追踪技术的实验室实验中(n1=156)和一个具有代表性的在线小插图实验(n2=1339)中，我们发现更像人的机器人设计比更少类人设计的机器人吸引的视觉关注更多。

然而，机器人的外观并不影响对机器人行为的伦理性评价。相比之下，我们的研究结果显示，影响伦理性评价的并不是更像人的外表，而是机器人的道德行为影响了它被视为人类的程度。我们在关于（公共）服务机器人的伦理规则设置的科学和实践者辩论中应用了我们的发现。

关键词：机器人化公共服务 道德标准 医疗保健 眼球追踪

1.引言

公共服务利用数字技术逐渐改变了工作实践。这包括使用自动决策软件和机器人(Agarwal，2018；Miller amp; Keiser，2020；Wirtz，Weyerer amp; Geyer，2019)。决策者渴望将这类软件和机器人应用于公共服务(例如，SPARC机器人项目(Sparc，2016)；经合组织论坛：“机器人的教学与学习”；2016年 DAVOS“机器人的崛起”)。机器人被设想在涉及与客户、公民和患者进行直接互动的服务中发挥重要作用(Andersen，Medaglia，Gimpel，Sjolin amp; Mikkelsen，2010)。应用领域包括公共安全和监督等方面。（如智能无人机)（Kernaghan，2014；West amp; Bowman，2016）、医疗保健和老年人护理（Kernaghan，2014；Nielsen，Andersen，2016）、智能城市交通和公用事业规划。

尽管机器人具有优势，但在公共部门的使用面临着一些挑战（(Campion, Gasco-Hernandez, Jankin Mikhaylov, amp; Esteve, 2020; Sun amp; Medaglia, 2019; Valle-Cruz, Criado, SandovalAlmazan, amp; Ruvalcaba-Gomez, 2020）。例如，研究表明，在公共服务中引入机器人流程将遇到公民的抵制，并需要公务员的适应((Vogl, Seidelin, Ganesh, amp; Bright, 2020)。在进行的广泛调查的27个欧洲国家(Bogue，2014)，超过50%的受访者表示，他们希望禁止机器人提供护理，并在教育中发挥重要作用。近90%的受访者表示对机器人照顾孩子和老人感到不舒服。然而，这些是目前被行业、政策制定者和公共管理者认为具有最大潜力的公共服务领域（(Andersen et al., 2010; Bullock, 2019; Kernaghan, 2014; Lember, Brandsen, amp; Tonurist, 2019)）。

接受机器人的一个障碍是公民对机器人服务的道德标准的担忧(Kernaghan, 2014; Winfield, Blum, amp; Liu, 2014）。维护公民的福祉可能需要用相互冲突的权利进行衡量，比如公民的隐私权、自治权、透明度和民主原则(Larsson, 2021; Lepri, Nuria, Letouzrsquo;e, Pentland, amp; Vinck, 2018)。这种权衡可能非常依赖于环境，在一个背景下公民认为可以接受原则与道德的平衡，在其他背景下可能被视为不可接受的或不道德的。例如，在拯救生命时，限制人类的自由可以被认为是合乎道德的（例如，限制危险罪犯的自由）。相比之下，它可能不被认为是其他目的（如政治犯)。因此，虽然更多的自主机器人可以提高公共服务提供的效率，但也提高了自治性，这要求他们能够在没有直接监督的情况下平衡公民经常相互冲突的权利 (Picard，1997)。这意味着机器人做出的决定应该平衡相关的道德原则，而使结果被广泛接受，从而拥有类似于人类服务人员的道德原则（(Vanderelst amp; Willems, 2020; Winfield et al., 2014）。总之，一个机器人可以在不同的情况下平衡用户的权利，这些权衡的结果就被认为是合乎道德的。

关于机器人（公共）服务中的道德标准，特别是应该如何衍生它们的讨论正在被热议(Anderson amp; Anderson, 2007; Winfield amp; Jirotka, 2018)。这种讨论对于在公共服务中使用机器人尤其重要，因为公民理所当然的希望公共行政部门对所有人的平等和道德(de Sousa, Pereira de Melo, De SouzaBermejo, Sousa Farias, amp; Oliveira Gomes, 2019; Howlader, 2011; Kernaghan, 2014)。因此，公共服务机器人的设计不仅旨在提高过程的效率。它们还被设计成使它们对公民更有效和舒适(Lember et al., 2019; Nielsen et al., 2016)。

一个重要的问题是，自动化的公共服务在多大程度上可以或应该类似于传统的基于人的服务而提供。越来越多的文献关注机器人的外观。通过使机器人的外观和行为更接近人类（即拟人化设计），设计师试图提高用户的接受度(Harbers, Peeters, amp; Neerincx, 2017)。因此，进行探索是有意义的，测试机器人的外观是否会影响公民的看法，在机器人提供公共服务中进行的道德权衡时。

在此背景下，目前的研究解决了以下研究问题：一个更像人的机器人公共服务设计是否会影响公民对公共服务中机器人行为的伦理评估？由于原之间的伦理平衡依赖于情境，我们探讨了类人设计的影响是否取决于特定的 情境因素。

通过回答这个研究问题，我们参与了关于技术发展如何影响我们对道德公共服务的看法的科学辩论(Kernaghan，2014)。目前，伦理机器人主要是从技术的角度进行讨论的。各种研究人员提出了软件架构，以确保机器人遵守选定的道德规范（例如，Bremner, Dennis, Fisher, amp; Winfield, 2019; Vanderelst amp; Willems, 2020; Winfield et al., 2014）。除了这种以技术为基础的领域处理，哲学还在公共和私人应用的几个方面争论机器人的伦理，包括技术的意外后果，如人类偏见和历史歧视，以及机器人行动的责任归因(Coeckelbergh, 2020; Howard amp; Borenstein, 2018)。然而，我们认为，在公共服务中使用机器人的规范是为了找到一致的社会规范。这些社会规范可以通过实证研究，其结果直接影响了公共管理和公共政策。简而言之，如果我们检查人们对公共服务机器人的期望，我们就可以调整我们的公共服务，以满足这些期望(Andersen et al., 2010; Goodall, 2016)。

为了回答我们的研究问题，我们研究了一个实验室实验，涉及眼球追踪记录从受访者(n1=156)和一个在线小插图实验(n2= 1339).对于这两项研究，我们选择了医疗设置作为一个突出的和有前途的自动化公共服务，1鉴于（1）最近的技术发展在这个领域，（2）巨大的公共投资在这个领域，和（3）日益增长的争论在公共管理文献（(Andersen et al., 2010; Lember et al., 2019; Nielsen et al., 2016)。我们结合了这两项平行研究的见解，全面了解了类人的机器人设计如何吸引注意力，以及这是如何潜在的影响患者慈善和自主性之间不同伦理权衡中的伦理评价。

2.理论与假设

服务的组织和制度化是核心公共治理辩论的组成部分(Dunleavy, Margetts, Bastow, amp; Tinkler, 2006)。由于政治环境的变化、社会规范的变化和新兴的、颠覆性的技术、当前的做法以及对公共服务的假设，可能需要调整、更新，甚至在某个时候被废除(Hood，2010)。这种持续更新过程一方面是应该如何提供公共服务，而该过程的伦理性是一个重要的方面(deGraafamp;vanderWal，2010) 。因此，公民对公共服务中具体行为的道德性的评价是这一过程中的重要组成部分。

其中一个不断变化的背景是高度自动化技术的迅速出现，这些技术可以补充或取代基于人类的服务，并为全新的公共服务创造机会(Kernaghan, 2014; Pieterson, Ebbers, amp; Madsen C., 2017)。然而，在不同的政府和公共服务领域中，几乎没有存在标准化的见解。因此，当前以人为本的服务在逻辑上被视为新技术公共治理的主要参考原则。

越来越多的文献专注于设计（公共）服务机器人，使新的服务体验尽可能舒适(Bruce, 1993; Murphy, Gretzel, amp; Pesonen, 2019)。一种常见的技术是设计类似于传统服务的自动化公共服务，它们应该补充或取代。因此，机器人的设计和行为往往类似于人类的服务行为(Bruce, 1993; Murphy et al., 2019; Zhang, Zhu, Lee, amp; Kaber, 2008)。这种类人设计提高了感知的服务质量和满意度、用户接受度和舒适度(Murphy，2019)和人际关系的温暖(Yuamp;Boyol Ngan，2019)。例如，机器人被提供了一张笑脸或使用肢体语言的能力，从而被认为更像人类(Yuamp;Boyol Ngan，2019)。虽然更像人类的设计可能会影响接受度、舒适度和用户满意度，但对于设计特征如何影响伦理认知，我们却知之甚少。然而，一个更像人的机器人可以引导用户欣赏对话和享受互动(Chung, Ko, Joung, amp; Sang, 2020; Ischen, Araujo, Voorveld, van Noort, amp; Smit, 2020)。这种 类似人类的互动可能被认为更人性化，更公开(Bartneck, Kanda, Mubin, et al., 2009)。反过来，这又导致了对机器人类人能力的更高信任 (Birnbaumetal，2016)，这也可能与对伦理性的积极评价密切相关。因此，我们假设：

假设1。与不太像人的公共服务机器人相比，具有更类人设计的机器人公服务机构使公民对机器人行为的伦理性进行了不同的评估。

3.将医疗保健环境作为公共服务的重点

在过去的十年里，大量的私人和公共投资刺激了所谓的社交辅助机器人 (SARs)的发展(Feil-Seifer amp; Mataric, 2011; Ranerup amp; Henriksen, 2019)，这些社交辅助机器人预计将彻底改变公共服务(Broadbent, Stafford, amp; MacDonald, 2009; Shiomi, Iio, Kamei, Sharmaamp; Hagita, 2015)。这种新兴技术经常被认为是一种处理老龄化人口和对高质量医疗保健服务不断增长的需求的一种方式(Scotland amp; Stirling, 2017)。它还被设想有助于减少人员工作量(Haase, Bearman, Brodersen, Hoeyer, amp; Risor, 2021)。事实上，预计SARs将补充或取代医院和长期护理设施的保健工作者(Royakkersamp;vanEst，2015)，减少保健工作者的身体和精神负担(Flandorfer, 2012)。此外，SARs还可以改善在家护理，让老年人在家里呆得更长时间，继续更独立的生活(Shiomi，2015；Smarr，2014)。

有关医疗保健环境中SARs类型的详细概述，我们请参考Nejat、Sun和 Nies，（2009）。这些作者对交互式机器人和非交互式机器人进行了关键的区分。甚至尽管SARs被视为医疗保健部门中许多当代问题的解决方案，但在这种情况下使用机器人仍然会带来一些挑战。Cresswell, Cunningham-Burley, and Sheikh (2018)指出，机器人的（1）外观和相关的期望和担忧，以及他们的（2）伦理和法律框架，仍然是需要处理的关键挑战，以在医疗保健部门收获SARs的好处。因此，Morley等人（2020年）认为，短期内不解决这些挑战可能会大大降低公众对机器人在医疗保健领域的信任，并在医疗保健减缓当前政策和科学领域对人工智能可能性的关注。

尽管机器人服务可以有助于更具成本效益的医疗保健 (Pauldenamp;O Mahony，2017)，但机器人公共和卫生服务的必要性是显而易见的(Charisi，2017)。由于道德机器人应该在没有持续监督的情况下观察患者的健康和权利(Moor，2006)，机器人专家已经开始开发方法，为机器人配备一种人工的道德感。这意味着机器人的决策被编程为符合社会规范，在特定情况下帮助而不是伤害人类(Deng, 2015; Tanibe, Hashimoto, amp; Karasawa, 2017)。

在医疗保健和一般的公共服务提供中，最重要的伦理原则之一是慈善，它要求病人或公民的福祉应该得到保障和改善(Beauchamp, 2007)。这一原则意味着，护理人员可能不会采取（潜在的）伤害病人的行为。相反，护理者应该采取措施来促进患者的健康。在实践中，这一原则不断被照顾者与其他伦理原则进行权衡，例如，与病人自主原则(Deng, 2015; Vanderelst amp; Willems, 2020)。然而，特定的环境要求违反自治权来维持利

剩余内容已隐藏，支付完成后下载完整资料

资料编号：[589189]，资料为PDF文档或Word文档，PDF文档可免费转换为Word