材料：
伦理是有关生活价值与行为正邪的探讨。传统的社会伦理一向是以调节人与人的关系为中 心，现代伦理学则进一步地系统反省了人与物之间的关系，而未来，还得有必要将人与智能机器的 关系纳入考虑范围。
为什么我们过去几乎不重视甚至很少考虑人机关系的伦理问题?一个显而易见的原因是：人 工智能对伦理提出的挑战是一个晚近才出现的事物。更深入细致的解答则需要结合人物关系的 讨论。
在现代伦理学中，将物纳入考虑范围一般有以下几个理由：这些物具有感受性，特别是能感受 到痛苦；这些物有生命；这些物构成了人生活在其中的生态整体的一部分；最后可能还有一种感受 问题——自然万物常常能够给人带来一种美感，甚至唤起人们的一种宏大感、深邃感、庄严感乃至 敬畏感。
但以上理由似乎对人造机器和机器人都不适用。它们是硅基原料或者加上金属，不具有我们 人与动物共有的肉体感受性；它们看来也不具有会自己生长、变化和繁殖的生命，也不构成自然整 体的一部分——它们本就不存在于自然界，只是人利用自然原料造出来的物体；它们也不会自然 地给我们带来美感，或者说，优美与否是我们按照自己的审美观赋予它们的，看来也唤不起一种宏 大感和敬畏感。所以，此前人们对机器的态度是比不上自然物的，人们根据需要随意地对待它们， 没有多少人会想要像善待动物一样善待机器，保养它们也只是为了让它们更好和更长久地为我们 服务。
但为什么我们现在需要认真地考虑人机关系的伦理问题呢?这一变化大概发生在机器开始 自我学习、自我改进的时候，智能机器人的出现标志着机器开始拥有了人的一部分能力，即控物的 能力、工具理性的能力，这也是人赖以战胜其他动物的能力。机器开始拥有了智能，拥有了工具或 者技术的理性——而这工具理性正是现代社会的人最为推崇和广泛应用的一种理性。机器在这 些方面开始有些像人了。
既然有了一部分人的能力，它们是否会发展到也将拥有自己的情感、意志乃至自我意识?如 果未来的发展的确是这样，甚至在它们只具有人的一部分能力的情况下，我们是否就应该开始考 虑我们与它们的伦理关系问题?当然，促使人关心这一问题的一个最大潜在动因可能还是：它们 会不会发展到在智能方面超越人乃至替代人?
我们得感谢文学艺术家，是他们的作品， 一直都在坚持不懈地提出各种可能的人机伦理问题。
最早使用“机器人”概念的捷克作家恰佩克，在1921年的作品《罗素姆万能机器人》中就很超 前地提出了人与机器的关系问题。科幻作家阿西莫夫则在小说《转圈》中最早提出了给机器人设 定的三个伦理规则：1.不得伤害人和见人受到伤害不作为；2.服从人的指令；3. 自我保存。这是有 序的三规则，即越是前面的规则越是优先，后面的规则不得违反前面的规则。显然，要实行这些规 则自然会有机器人判断的负担：这“人”是指人类个体还是整体?在无法避免伤害人的情况下选择伤害谁?在不同的人发出不同指令时，究竟服从谁的命令?阿西莫夫在作品中描述了这些矛盾和 困境，不仅认真地思考人机关系，还试图明确地提出调节的伦理原则，这是一个很有意义的起点。
后来的人们对这三个伦理规则有不少修改和补充，但都倾向于做加法，增多或提高要求，就连 阿西莫夫自己，也加上了一条更优先的零原则：“不得伤害人类整体。”但做加法将继续加重机器人 判断的负担，还打开了误判或冒名和假托“人类利益”的缺口。
(摘编自何怀宏《人物、人际与人机关系》,有删改)
问题：
