《人物､人际与人机关系——从伦理角度看人工智能·何怀宏》阅读理解题及答案

阅读下面的文字，完成下面小题。

传统伦理学以研究人与人之间的关系为中心，现代伦理学则开始比较系统地反省人与物之间的关系，而随着人工智能的飞速发展，未来的伦理学应该还需要将人与智能机器的关系纳入考虑范围。

工业文明早期，机器还是人类制造并完全可控的产品，并不存在伦理问题。直到出现智能机器人，它们开始拥有了人的一部分理性，而未来它们还可能发展到拥有自我意识，因此，我们应该考虑与它们的伦理关系。对这种伦理关系，人们最关心的可能还是它们会不会在智能方面超越人乃至替代人。为此，目前对人机关系的伦理调节大概有三个方向:一是规则设定;二是价值引导;三是能力限制。

规则设定是指规范、限制机器人的行为和手段。在这方面，科幻作家阿西莫夫最早提出给机器人设定三个伦理规则:1.不得伤害人和见人受到伤害不作为; 2.服从人的指令;3.自我保存。不过，实行这些规则会加重机器人判断的负担:这“人”是指发明制造它的人还是使用它的人，是指人类个体还是整体，还有判断哪些情况会伤害人，以及在无法避免伤害人的情况下选择伤害哪个或哪些人，等等。后来人们对这三条规则有不少补充，但这将继续加重机器人判断的负担，还可能因此打开误判或假托“人类利益”的缺口。电影《我，机器人》中，新版机器人就觉得自己能够比人类自身更好地判断人类的利益，于是杀死旧版机器人，并将人类禁锢起来。

价值引导是指设置机器人的动机和价值观。一些学者认为可以给机器人预先设置“对人类友好”的价值观，但这样做就必须让它们获得一种自我意识，否则它们还是会存在判断的重负。比如怎样才是对人类友好，什么是人类的最大利益或整体利益……这些判断不仅要考虑人的物质利益，也要考虑人的精神和文化需求。但它们既没有生物的肉体感受性，也没有领悟精神文化的能力——仅靠输入和记住人类的全部文献是不够的，那还需要历史的、无数活生生的富有情感和灵感的个人体验的积淀。而且，如果它们真的发展起一种自我意识，那也一定不是建立在肉体感受性基础上的人的自我意识，我们与它们无法像人与人之间那样建立“感同身受”的关系。

因此，人所能做的甚至只能做的可能就是限制它们的能力，从而保持人类对机器人的独立性乃至支配性。我们不能什么都依赖智能机器，我们最好让它们始终保持“物”的基本属性，而不是给它们建立一套以人为中心的价值体系。它们如果真的掌握了价值判断和建构的能力，恐怕很快就要建立自己的价值体系，那是人类不易知晓其内容的“价值体系”——就像现在，对战胜棋类大师的机器人的具体计算过程，即使是专家们也不太知晓，其间还是有不少“黑箱操作”。而如果机器人有了“心灵”， 那将是整体的“黑箱”。

总而言之，规则设定虽不可少，但必须简单明确，以减少甚至免除机器人判断的负担，这也是限制它们的能力。而价值引导则不必要，也不太可能，甚至后面隐藏着很大的风险。在能够给智能机器建立一套安全可靠的价值体系之前，我们还是要将智能机器的能力限制在单纯的算法和工具的领域。

（摘编自何怀宏《人物､人际与人机关系——从伦理角度看人工智能》）

1. 下列关于原文内容的理解和分析，正确的一项是

A. 机器人的出现给伦理学提出了新的课题，人机关系开始被纳入伦理关系的范围。

B. 智能机器人在根据预设规则作出判断上有困难，规则越多它们判断时负担越重。

C. 为智能机器人设置价值观，就是要让它们获得一种自我意识，减轻判断的重负。

D. 对于智能机器人，我们只需限制它们的能力，而不必去为其设定规则和价值观。

2. 下列对原文论证的相关分析，不正确的一项是

A. 文章先指出有必要从伦理角度审视人机关系，接着阐述了三种伦理调节的方式。

B. 文章例举《我，机器人》中的相关情节，以论证人类可能被机器人奴役的观点。

C. 文章站在以人为中心的立场，比较分析了人机关系伦理调节三个方向的合理性问题。

D. 文章反对机器人价值引导，其前提是机器人一旦形成自我意识或许就不可控了。

3. 根据原文内容，下列说法不正确的一项是

A. 从伦理角度看待人工智能，有助于应对其可能带来的问题，从而尽可能使智能机器处于人类的控制范围。

B. 对机器人的规则设定最早由科幻作家提出，表明科学幻想对社会发展有前瞻性。

C. 即使人工智能能考虑人的精神需求，人对能否与人工智能和平相处仍缺乏信心。

D. 若要使智能机器的价值体系安全可靠，便应确保此体系与人类价值体系相接近。