伦理是有关生活价值与行为正邪的探讨。传统的社会伦理一向是以调节人与人的关系为中心，现代伦理学近年则开始比较系统地反省人与物之间的关系，而未来的伦理学大概还需要将人与智能机器的关系纳入其考虑范围。
为什么我们过去几乎不重视甚至很少考虑人机关系的伦理问题？一个显而易见的原因是：人工智能对伦理提出的挑战是一个很新、晚近才出现的事物，更深入细致的解答则需要结合人物关系的讨论。
在现代伦理学中，将动物纳入考虑范围一般有以下几点理由：这些动物具有感受性，特别是能感受到痛苦；这些动物有生命；这些动物构成了人生活在其中的一部分；最后可能还有感受问题——自然万物常常能够给人带来一种美感，甚至唤起人们的一种宏大感、深邃感、庄严感乃至敬畏感。
但以上这些理由似乎对人造的机器和机器人都不适用，它们是硅基原料或者加上金属，不具有我们人和动物共有的肉体感受性；它们看来也不具有会自己生长、变化和繁殖的生命，也不构成自然整体的一部分——它们在自然界本来是不存在的，只是人利用自然原料造出来的物体；它们也不会自然地给我们带来美感，或者说，优美与否是我们按照自己的审美观赋予它们的，是出于我们的设计，看来也唤不起一种宏大感和敬畏感。所以，此前人们对机器的态度是比自然物差的，人们会根据自己的需要更加随意地对待它们：会拆卸、报废和处理它们。没多少人会想我们要像善待动物一样善待机器。保养它们也只是为了让它们更好和更长久地为我们服务。
但为什么我们现在需要认真地考虑人机关系的伦理问题呢？这一变化大概发生在机器开始自我学习、自我改进的时候，即出现了自动化机器，直到智能机器人的出现。智能机器的出现标志着机器开始拥有了人的一部分能力，即控物的能力、工具理性的能力，这也是人赖以战胜其他动物的能力。机器开始拥有了智能，拥有了工具或技术的理性——而这工具理性正是现代社会的人最为推崇和广泛应用的一种理性。机器在这些方面开始有些像人了，但既然有了一部分人的能力，它们是否会发展到也将拥有自己的情感、意志乃至自我意识？如果未来的发展的确是这样，甚至在它们只具有人的一部分能力的情况下，我们是不是就应该开始考虑我们与它们的伦理关系问题？当然，促使人关心这一问题的一个最大潜在动因可能还是一个威胁的幢幢暗影——那就是它们会不会继续发展到在智能方面超越人乃至替代人？
这方面我们得感谢文学艺术家，是他们的作品，包括许多科幻小说和影视作品，从一开始直到今天都在坚持不懈地提出各种可能的人机伦理问题。
最早使用“机器人(Robot)”这个概念的捷克作家恰佩克，在1921年发表的作品《罗素姆万能机器人》中就很超前地提出了人与机器的关系问题。科幻作家阿西莫夫在小说《转圈》中最早提出了给机器人设定的三个伦理规则：（1）不得伤害人和见人受到伤害不作为；（2）服从人的指令；（3）自我保存。这是有序的三规则，即越是前面的规则越是优先，后面的规则不得违反前面的规则。要实行这些规则自然会有机器人判断的负担，即如何判断人——被伤害的对象和作为发令主体的人，这人是指发明制造它的人还是使用它的人，是指人类个体还是整体，因为他们之间是可能出现矛盾的？还有判断哪些情况会伤害人，以及在无法避免伤害人的情况下选择伤害哪个或哪些人？在不同的人发出不同的指令的时候，究竟服从谁的命令；等等。阿西莫夫在一些作品中也描述了其中的一些矛盾和困境。他不仅认真地考虑人机关系——当然，这种关系毫无疑问是不平等的，还试图明确地提出调节的伦理规则，这是一个很有意义的起点。
后来的人们对这三个伦理规则有不少修改和补充，但都倾向于做加法，增多或提高要求，包括阿西莫夫自己，或是鉴于机器人可能成为恶人保镖的危险，自己也加上了一条更优先的零原则：“不得伤害人类整体。”但做加法将继续加重机器人判断的负担，还打开了误判或冒名和假托“人类利益”的缺口。
(摘编自何怀宏《人物、人际与人机关系——从伦理角度看人工智能》,有删改)
问题：
