《银河帝国:机器人五部曲》上集:如何防止人工智能伤害人类

开通VIP,畅享免费电子书等14项超值服

首页

好书

留言交流

下载APP

联系客服

一,关于作者和本书

阿西莫夫是20世纪最著名的科幻作家之一,是美国科幻小说黄金年代的代表性人物,一生写过的科幻小说和科普作品等超过500部,获奖无数。他的代表作有《基地》,《神们自己》,《机器人》系列一共是五本书:《我,机器人》《钢穴》《裸阳》《曙光中的机器人》《机器人与帝国》。在这里要提请你注意,这五本书并非一个连贯的、拥有相同角色和一条完整故事线的系列。《我,机器人》实际上是阿西莫夫关于机器人的一系列短篇的集合;《钢穴》《裸阳》《曙光中的机器人》则是三本主角相同的科幻推理小说;在最后一本《机器人与帝国》中,阿西莫夫则将《机器人》系列与整个银河帝国系列连接在一起。今天我仅讲述《我,机器人》这个短篇集,明天我将讨论后面的四本书。

二、故事解说

1.故事背景

在“机器人”系列的世界,人类在80年代发明了一种叫做“正子脑”的技术;这个发明打败了半导体和集成电路,变成了机器人的基础。由此这个世界不再存在由半导体构成的计算机,拥有智能和金属身体的机器人大行其道。为了保证这些机器人只是为人类服务而不是反过来伤害人类,人类在正子脑内部增加了底层逻辑:这就是机器人三大定律。在这里我们将三大定律重复一遍:

第一定律:机器人不得伤害人类,或坐视人类受到伤害;

第二定律:机器人必须服从人类命令,除非命令与第一定律发生冲突;

第三定律:在不违背第一或第二定律的情况下,机器人必须保护自己。

有了这三大定律,人类就可以任意使用机器人而不担心被机器人伤害了。然而,意外还是发生了。《机器人》系列的故事,就是围绕这些意外展开。

2. 故事梗概

《我,机器人》

《机器人》系列的第一本《我,机器人》实际上是阿西莫夫陆陆续续写下的以机器人为主题的科幻短篇集。在集成册子之后阿西莫夫进行了改写,增加了一个叫做苏珊·凯文的女性角色:她是最早发明机器人的“美国机器人公司”的科学家,而所有的这些短篇故事,实际上都出自她在研究机器人过程中的案例。

第一个故事《小机》讲述了机器人是如何普及开来的一段历史。小女孩葛洛莉雅很喜欢保姆机器人,但是她的母亲觉得女儿太过依赖机器人,决心将它送走。但是葛洛莉雅非常思念机器人,在旅游过程中也念念不忘。无奈之下,父亲提出了一个主意:带葛洛莉雅去机器人工厂参观,遇到意外,最终是机器人救了葛洛莉雅。这件小事证明了机器人的安全性,由此,机器人普及开来。

接下来的故事讲述的都是“机器人三大定律”出了意外该怎么办的故事。

《消失无踪》这个故事讲的就是第一定律被修改怎么办的故事。苏珊·凯文前往超空间基地调查一个机器人失踪的案件,这个机器人修改了第一定律,去掉“不得坐视人类受到伤害”的部分。于是苏珊凯文必须找出这个机器人与其他机器人在行为上的区别才能抓住它。

《转圈圈》则讲的是机器人的第二和第三定律冲突怎么办。在水星的矿场里两个工程师发现他们的机器人出了故障:它在矿点外不停的打转。原因是人类下达的命令和它自保的本能冲突了。两位工程师必须解决这一问题。

《理性》讨论的是这个问题:机器人如果有了自己的宗教呢?工程师测试新一代机器人的工作能力,才发现这个机器人自己发明了一个宗教,认为机器人比人类高等,存在一个主宰制造机器人。两位工程师要努力让机器人意识到它的信仰都是虚假的。

《骗子》讲的是第一定律中如何区分“伤害人类”的故事。苏珊凯文遇到一个难题:他们的一个新型机器人出现了一个bug:它能够透视人的心灵。于是这个机器人陷入了一个困境:心灵伤害算不算伤害人类呢?

《逃避!》这个故事讨论的是第一定律如何定义“死亡”这件事。此时人类已经发明了超空间跃迁技术,这种技术可以轻易的让宇宙飞船从一个星球跃迁到另一个星球,人类可以在银河系里随意的往返。负责建造超空间宇宙飞船的是一个超级电脑,叫做金。金发现,超空间跃迁会导致人类在物理世界中“消失”一个瞬间,对于电脑来说,这就相当于人类死亡,抵触第一定律,这会导致它无法处理这个情况。那怎么办呢?

《证据》这个故事则讨论的是机器人如何假冒人类。主角是一位著名人物,叫做史蒂芬·拜尔莱。他是一位检察官,正在竞选市长。他的政敌奎恩来到美国机器人公司,想要他们来调查一个惊人的事情:拜尔莱是否是个机器人!那么拜尔莱到底是不是机器人?

最后一个故事《可避免的冲突》发生在拜尔莱已经成为整个地球联合政府的元首之后。它讨论的是三大定律逻辑上必然的结论:机器人必须控制人类。

三、作品解读

1. 人形机器人真的会出现吗?

强人工智能,也就是人类级别的人工智能何时会出现一直是个巨大的问题。最新的chatGPT则再次将这个问题推到了风口浪尖:它能够非常逼真地模拟人类的语言和思考能力,但问题在于,这种能力能否变成一种通用的能力?实际上,我们所谓的“通用人工智能”,英文叫做Artificial General Intelligence,指的就是人工智能有没有解决不同领域问题的能力。比方说转移到计算机视觉领域,将自动驾驶的问题完全解决?现在还未可知。

2. 机器人三大定律真的可能实现吗?

长久以来,机器人三大定律只是被认为是阿西莫夫的思想实验,很难在现实的人工智能研究中实现;毕竟阿西莫夫自己在小说里也写了种种例外情况;最基本的,想要在人工智能里嵌入绝对的道德规则,比方说“不能伤害人类”,就必须首先对“什么是人类”“什么是伤害”下一个严格的定义。而这种定义本身就是伦理学的难题。但是很难不意味着没有意义。我们不但要发展出能够替我们完成任务的人工智能,还要让这个人工智能以不会伤害到人类、对人类友好的方式来完成任务。

THE END
0.求推荐以AI机器人为主角的小说艾萨克·阿西莫夫:《银河帝国》系列(《我,机器人》、《基地》…)《机器人短篇全集》 麦克尤恩:《我这样的机器》 石黑一雄:《克拉拉与太阳》 菲利普•迪克:《仿生人会梦见电子羊吗?》 苏珊·帕尔梅:《机器人的秘密生活》《罗素姆万能机器人-8?》 玛莎·威尔斯:《The Murderbot Diaries》杀戮机器人日记系列五部jvzquC41yy}/fxzdcp4dqv4itq{q1}trke534@;5586:
1.银河帝国:机器人五部曲的书评(31)【雨枫试读】如何面对失控的机器人 相信有很多人会和我一样,对于阅读名著这件事,都会有莫名的偏见,最通常的一个观点就是,那些在很多年前写的作品,一定很落伍,也很无趣。 对于“银河帝国”系列中“机器人系列”的第一本《我,机器人》,我又多加了一重误解:这本出版于1950年的科幻小说,拿到现在来看一定非jvzquC41dqul0mtwdct/exr1uwhkgly14899;A>91tkwkn|u
2.赛尔机器人小说最热赛尔机器人小说推荐话本小说网为您推荐最新最好看的赛尔机器人小说,您可以方便的进行赛尔机器人小说免费在线阅读。看赛尔机器人小说,就上话本小说网。jvzquC41yy}/kqzcdgt/exr1eczfixw{1ugjg{okskxfp8
3.机器人小说最热机器人小说推荐机器人小说点击榜免费机器人小说推荐就上话本小说网,这里免费推荐好看的机器人小说,打造机器人小说排行榜以及机器人小说大全。 男生 全部 玄幻 都市 仙侠 灵异 游戏 科幻 军事 奇幻 历史 竞技 轻小说 武侠 短篇 女生 全部 古代言情 玄幻言情 都市言情 TFBOYS EXO 明星同人 jvzquC41yy}/kqzcdgt/exr1eczfixw{1lork{jp1erjethqwpz`fj~ua9580qyon
4.银河帝国:机器人五部曲(豆瓣)丛书:读客外国小说文库:艾萨克·阿西莫夫作品 ISBN:9787539983332 豆瓣评分 9.6 4831人评价 5星 82.7% 4星 14.2% 3星 2.7% 2星 0.2% 1星 0.2% 评价: 写笔记 写书评 加入购书单 分享到 推荐 内容简介· ··· 机器人学三大法则 一、机器人不得伤害人类,或因不作为而使人类受到伤害。 二、jvzquC41dqul0mtwdct/exr1uwhkgly14899;A>91
5.强强强推!三本男主是机器人的小说,始于代码归于真心的爱三本男主是机器人的小说,始于代码、归于真心的爱 一、《仿生人他每天只想亲热》作者:黄桃罐罐 登录后可查看图片 事业批物理学家女主vs人造忠犬机器人男主,男宠女,科幻甜宠文。 本书背景是未来世界,科技高度发达。女主6岁之时,男主作为高级家政服务机器人,来到了女主身边。他不仅是她的生活助手,更是科研道路上jvzquC41kv4tqqz0eqs0c8>722;58?6a;;?3;<<8
6.《和精分机器人同居的日子》回笙买买买晋江文学城《和精分机器人同居的日子》,回笙买买买,情有独钟 重生 系统 正剧,主角:言槿,薛南歌 ┃ 配角: ┃ 其它:|最新更新:2019-09-30 19:02:28|作品积分:6447194jvzquC41o0pkyh0pgz0dxtm4187;<98;
7.机器人系列主角小说推荐机器人系列主角小说推荐2024年10月21日 00:371个回答红袖小助手2024年10月21日 00:37 以下是几本以机器人为主角的小说推荐: 1. 艾萨克·阿西莫夫的 《银河帝国》 系列,包括 《我,机器人》 和《基地》 等作品。2. 麦克尤恩的 《我这样的机器》 。3. 石黑一雄的 《克拉拉与太阳》 。4. 菲利普·迪克的jvzquC41yy}/jxsizk{/exr1cuq0sƒkrg{idnvn
8.机器人小说排行榜专题小说阅读txt下载我和我的机器人穿越异世大陆,争取回家的故事。一场火灾让 24万字总点击317万11日 小红星 | 异世大陆 穿越 热血 反向穿越我机器人的身份被曝光了 一个来自未来的ai机器人为了执行暗杀任务来到现代世界。 21万字总点击146万10日 不太监不 | 都市异能 爽文 穿越 智能危机人类与机器人的较量 人形机器人jvzquC41ycv/hjqqq0ipo8xgctiia;d30jznnHy?3(q>'KG'HC+D8.K9'E>&EK
9.《我的机器人男友》阿蒾晋江文学城简介:907是我老爹从垃圾堆里挑来的机器人,它会洗衣服、做饭、打扫卫生,除此以外啥也不会。可这些智能家电也能做到。大概是怕我把它扔了,某一天,它欲言又止地提醒我:“主人,907不,不是坏掉的机器人,907还,还可以提供,需求服务。” 我:“……” 时代背景:未来世界 深明大义女主VS忠犬卑微男主 he 收藏(jvzquC41ycv/ls|ze0ipo8gqqm808>;46;9
10.机器人小说最热机器人小说推荐机器人小说点击榜恋爱机器人1 又菜又爱玩1228 999+999+ 我跟机器人谈恋爱 舒服温 999+999+ 系统犯罪 君辞墨染 999+999+ 马嘉祺:我的机器人男友 是你们的大宝贝鸭 999+999+ 男友机器人 浅秋kiki 999+999+ 翔霖:机器人爱恋 山城祺遇记_ 999+999+ 假如变成机器人的是喜羊羊 jvzquC41yy}/kqzcdgt/exr1eczfixw{1lork{jp1erjethqwpz`fj~ua95227mvon