自动驾驶带来的伦理问题？

清风滤过

自动驾驶带来的伦理问题？好文推荐可以思考一下

文/丁芝华 交通运输部科学研究院政策法规研究室

作为人工智能发展的重要标志和具体应用，自动驾驶技术在提高道路交通安全水平、改善公众出行、缓解交通拥堵、促进汽车、信息等产业发展方面具有巨大的潜在价值，已成为未来道路交通发展的趋势和方向。

近些年来，随着传感器、汽车电子、无线通信、高精地图、智能控制、人工智能、物联网、大数据等技术的迅速发展，自动驾驶的研发和应用正在不断加速，自动驾驶离我们的生活越来越近。然而，自动驾驶的发展在技术、制度等方面上还面临着一些亟需解决的问题。在此情形下，非常有必要深入研究这些问题产生的根源及其具体表现、解决对策。

伦理问题的产生根源

自动驾驶是人工智能、物联网、大数据等新一代技术融合、创新发展的产物，实现了车辆驾驶的自动化，能够全面提升车辆的智能化水平，正在推动着汽车产业的重大变革。车辆的自动驾驶系统由传感器、图像处理平台、执行机构等硬件和软件组成，能够部分或全部替代人类驾驶员对车辆的驾驶。

人工智能算法是自动驾驶系统的核心，具有行人检测、物体识别、路径规划、行为决策等多种复杂功能，决定了车辆的智能化程度。如同其他一些技术一样，自动驾驶的发展也引发了一些迫切需要解决的伦理问题。例如，在车辆面临一场不可避免的可能造成人员伤亡的交通事故时，自动驾驶系统在决策时是选择撞向一人，还是选择撞向多人，就成为一个比较棘手的道德抉择问题，即“电车难题”。

在复杂的道路交通环境中，车辆在运行过程中必然会遇到一些紧急情况，可能会面临上述情况或类似情况的处理问题。这些问题是要在自动驾驶应用和普及之前应当妥善解决的。追溯问题产生的根源，对于推进问题的解决具有重要作用。

前述伦理问题与国家和社会对自动驾驶相关行为的规范有关。作为一种新生事物，自动驾驶开拓了人类实践活动的一个新领域。人们在此领域中实施的不少行为都是前所未有的，如自动驾驶汽车的测试、设计、制造、使用、维修、监管等。自动驾驶所引发的伦理问题因对这些新行为的规范而产生。例如，“电车难题”涉及的就是自动驾驶系统的事故决策算法针对紧急情况在设计上应当遵守什么样的伦理规范。从深层次上看，这些伦理问题的产生源于自动驾驶的研发和应用可能给社会带来的一些不可忽视的风险。

其中，部分类型的风险还容易发生叠加，形成比较复杂的风险样态。由于道路交通环境的复杂性，一旦设计上考虑不周或出现缺陷，或在制造上出现疏漏，或在使用中出现不当操作，或维修不及时，自动驾驶汽车在运行中就容易导致交通风险的产生。即使前述环节不出现问题，运行中难免出现的软硬件故障也可能导致交通风险的产生。在车路协同运行模式下，自动驾驶汽车对网络具有很强的依赖性，自动驾驶系统软件或车辆网设计存在的漏洞、车辆网平台管理存在的问题等容易导致网络安全风险的产生。自动驾驶汽车在运行中需要使用许多的数据，也会产生大量的数据，在运行、维修、监管等环节上都容易产生个人隐私和数据泄露或滥用的风险。这些风险可能会出现叠加，形成高度复杂的风险样态。

例如，自动驾驶系统一旦被黑客入侵控制，就可能出现前述多种风险叠加的复杂情况。相对于相关运营商，自动驾驶的用户属于弱势方，容易产生因“被侵入式”的数据采集或控制而影响个人尊严的风险。“行”在人们的生活、工作占有重要地位，自动驾驶的自主决策特点可能会使人们对自动驾驶汽车产生依赖，产生降低人的自主性的风险。除此以外，自动驾驶的应用还可能产生影响社会公平的风险等。因自动驾驶应用涉及的道路交通活动具有较强的社会性和普遍性，这些风险一旦控制不善，就可能给社会带来严重危害。

为了消除或减少这些风险，或控制它们可能造成的损失，需要对自动驾驶汽车的测试、设计、制造、驾驶、维修、监管等行为进行必要的规范，保证这些行为的“正当性”。判断人们实施的行为是否“正当”，需要依据一定的标准或准则进行。对于纯技术性的行为，只要符合特定的技术规范，它就是“正当的”。

对于社会性行为，人们可能会基于不同的价值取向，从不同的角度、方面去考虑，提出不同的标准或准则，甚至是相互冲突的标准或规则。自动驾驶相关行为就属于社会性行为。由于立场、对这些行为本身的认识，对这些行为产生的风险的严重与否、发生的可能性大小、应对等的认识存在一些差异，不同的人在确定规范这些行为的标准或准则时持不同的价值取向，从不同的角度、方面去考虑，提出了诸多不同的标准或准则。在对这些标准或准则进行评价或取舍时，人们就会运用伦理学的原理和理论进行分析，判断它们的合理性，从而产生了前述的伦理问题。

伦理问题的具体表现

在新兴的自动驾驶领域中，相关行为具有较强的社会性，需要一定伦理规范的约束。该领域中产生的伦理问题并非仅限于“电车难题”，具体包括对可能产生风险的自动驾驶相关行为的善恶评判、自动驾驶相关行为需要遵守的特定伦理规范以及自动驾驶涉及的事故所引起的责任承担。

当前，自动驾驶还处于产业化前期，但在测试或前期应用中就已经发生了多起事故。2019年3月1日，在美国佛罗里达州德拉海滩的一个十字路口，一辆处于自动驾驶状态下的特斯拉Model 3与一辆行驶中的半挂卡车相撞，导致特斯拉Model 3驾驶员死亡和车辆完全损毁。

自动驾驶研发和应用中的诸多行为都有可能产生危害社会的风险，对这些行为的善恶评判是一个非常重要的伦理问题。社会是否应当允许自动驾驶研发和应用的开展，人们能否认可和接受自动驾驶等，都与该问题直接相关。由于这些行为在可能产生风险的同时也会给社会带来不少益处，如何评判这些行为的善恶，就产生了不同的观点。基于不同的价值取向，有些人可能会更加关注风险方面，甚至夸大它们对社会的危害性，认为它们是恶的；而有些人可能会更加关注益处方面，认为这些行为是善的。

例如，由于硬件故障、软件漏洞、知觉错误、推理错误等原因，自动驾驶应用会产生交通风险，且在应用中有被黑客控制滥用的风险。有些人强调这些风险的严重性，质疑和否定自动驾驶的应用，忽视自动驾驶系统以毫秒级运算水平操控车辆相对于人工驾驶的高安全性以及其他益处，而有些人则持相反的观点。

伦理规范对于规范自动驾驶相关行为、保证它们的正当性、控制它们可能产生的风险上具有重要作用。人们在实施这些行为时，需要遵守特定的伦理规范。例如，在行驶中，自动驾驶汽车可能会遇到各种各样的交通风险，包括车辆本身产生、其他交通参与者、恶劣天气、异常路况、自然灾害等引起的交通风险等，研发企业或制造企业在设计自动驾驶系统时需要严格遵循充分保证人身安全的准则，让其能够决定本车以及其他交通参与者能够接受多大程度的风险，对于可接受的风险，能够决定在受到影响的各方之间进行合理的风险责任分配。

如果违反相应的伦理规范，这些行为就是不正当的，就可能会产生危害社会的后果。例如，对于2018年3月发生在美国亚利桑那州的优步（Uber）自动驾驶车辆测试致人死亡事故，调查人员发现优步公司在自动驾驶系统设计上未能严格遵循充分保证人身安全的准则——只有在非常明确要发生事故前，自动驾驶系统才会启动紧急制动。

尽管调查最终未把这作为事故原因之一，但这种设计实际上是助推了事故的发生。自动驾驶相关行为类型比较多，对于不同类型，都需要制定一定的伦理规范，有关具体伦理规范制定引起的伦理问题会非常多。“电车难题”就是在确定事故算法设计上需要遵守哪些具体伦理规范时产生的问题。

实际上，针对行为设计，还产生了是否能为了避免实施违法行为的多人伤亡而撞向无辜的路人或其他车辆；是否能为了避免本车可能产生的人员伤亡而实施侵害其他车辆或行人的违法行为；是否能为了避免导致车内人员伤亡而撞向冲向道路上的动物等问题。

自动驾驶是人工智能应用的重要领域之一。自动驾驶汽车与一般的自动化机械设备不同，是一种相对高级的人工智能产品，具有较强的自主性。其自动驾驶系统能够像驾驶人一样自主决策，进行一系列的驾驶操作，根据车况、工况、路况等处理车辆运行中遇到的各种问题，还能够通过深度学习不断提升自己的驾驶技能。

因软硬件故障等因素的影响，自动驾驶汽车也难免会发生交通事故。其中，一些交通事故可能是由于自动驾驶系统的“深度学习”功能而出现一些不可预知的错误造成的。因而，如同在其他一些人工智能领域一样，对于因自动驾驶汽车原因造成的交通事故，其是否能够像驾驶人一样承担相应的责任就成为问题。有些人认为，自动驾驶汽车仍然属于物的范畴，不能成为交通事故责任主体；而有些人认为可以赋予自动驾驶汽车独立法律人格，使其成为交通事故责任主体。

伦理问题
四项解决对策

前述伦理问题着眼于自动驾驶研发和应用中的诸多行为的合理规范，旨在探寻正确认识和有效应对这些行为可能产生的风险的理性依据，反映了人们对自动驾驶发展和应用的审慎态度和社会关切。解决这些问题对于合理规范自动驾驶相关行为，促进自动驾驶的健康发展，确保其应用能够真正增进社会福祉具有重要作用。对此，当前需要重点采取以下措施。

一是提高对自动驾驶伦理问题的重视程度。这些问题并非杞人忧天，自动驾驶相关行为可能产生的风险不容忽视。传统汽车的推广和应用可谓“前车之鉴”。直到今天，全球每年交通事故仍造成120多万人死亡，5000多万人受伤，5000多亿美元的经济损失。尽管自动驾驶能从技术上大幅度提升道路交通的安全水平，但是，它的一些潜在风险也直接关联人们的生命财产安全，若不能防控好，可能也会给社会带来不可估量的损失。与此同时，面对风险，需要客观认识和对待自动驾驶相关行为，及时制定相关伦理准则，对这些行为进行必要的规范。合理的伦理准则也是保证自动驾驶监管法律法规“良性”的基础和前提，否则其可能就会变成“恶法”。

二是明确政府在解决自动驾驶伦理问题上的责任。自动驾驶技术本身不能解决这些问题，尽管其相关行为可能产生的风险的防控依赖于技术。由于道路交通活动的社会性和普遍性，这些风险的影响将波及整个社会，需要将其引发的伦理问题作为一种社会问题来处理。因而，自动驾驶伦理问题的解决应当由政府负责，不能仅靠市场或社会，不能完全交给相关行业，更不能交给消费者个人。正如美国国家运输安全委员会（NTSB）主席克里斯多夫·哈特（Christopher Hart）所言，对于自动驾驶汽车在紧急情况下选择撞上一辆失去控制的卡车，还是冲向人行道撞上行人，需要由政府给出答案。

三是确立解决自动驾驶伦理问题的价值取向。这些问题涉及人的自主性、人的基本权利、公共安全、消费者安全、个人隐私和数据保护、交通运行效率、出行改善、行业发展、社会公平等众多价值选项。价值取向的差异在很大程度上决定了人们在这些问题解决上的不同观点。在众多的价值选项中，让所有人做出相同的价值取向是不可能的，但需要对其进行一定的取舍、权衡，确立相对统一、正确的价值取向。在价值取向上的确立上，需要坚持自动驾驶的应用是为了增强人的自主性和保障人的基本权利的基本前提，突出强调自动驾驶的安全性和可靠性以及对个人隐私和数据的保护。

四是制定规范自动驾驶相关行为的伦理准则。自动驾驶伦理问题的最终解决需要一整套权威、公开、明确、可操作的伦理准则。这套伦理准则既包括规范所有自动驾驶相关行为的一般性伦理准则，也包括分别规范各种自动驾驶相关行为的具体性伦理准则。从自动驾驶汽车的研发、设计、制造，到驾驶、运营、维修、监管，都需要针对它们可能产生的风险，基于伦理理论分析，结合人工智能相关的基本伦理准则，加强相关研究，根据自动驾驶的功能和特点等分别制定合理的伦理准则，以消除或减少这些风险，或控制它们可能造成的损失。这些伦理准则可采用多种形式，包括政策性文件、技术指南、推荐性技术标准、强制性技术标准、法律规范等。

新生事物的发展往往并非坦途，自动驾驶就是如此。它所面临的这些伦理问题，如果得不到妥善解决，就会成为其发展上的“拦路虎”，甚至成为一个“大坑”。解决这些伦理问题意味着一个新的相关价值体系的构建，面临诸多不同的观点和意见，存在着不少困难，需要坚持“包容审慎”的原则，更需要开拓创新的勇气和力量。