机器会产生自我意识吗？人工智能会“背叛”人类吗？本文转自：北京日报北京晚报

本文转自：北京日报
北京晚报·五色土 | 作者陈梦溪
《终结者》系列电影的经典成为了一代人的“心理阴影” ，那似乎是未来人工智能技术发展到足够强大后的一种必然结果——反过来统治人类。与无所不能且产生自我意识的人工智能相比，人类似乎脆弱到需要保护，否则有着灭亡的危险。其实无论是哪种科幻作品，都是对未来所有可能性的想象的排列组合。只是对比百年前儒勒·凡尔纳浪漫的《海底两万里》《地心历险记》的风格，当代科幻作品似乎总是充满“暗黑”与“恐惧”这两个元素。这种趋势在今年热播的系列剧《爱，死亡，机器人》第三季中更加明显，其中一个片段讲述了三位机器人主角在人类“灭绝”后回到地球，已经成为历史“古迹”的大都市荒无人烟，成为机器人们的热门旅游打卡胜地；人类文明遗址对于未来的机器人世界来说，就像我们现在去复活节岛看古代文明的石像一样。

文章图片

文章图片

《未来史记》江波著四川科学技术出版社
之所以写这本关于人工智能的小说，不仅仅因为人工智能是个热门话题。在他看来，人工智能就是一种正在向我们走来的未来，科幻创作除了放飞想象力之外，更有一层现实的压力存在。人工智能的快速发展，把我们带向一种历史上从未存在过的情况，就是人的脑力劳动会被大量替代，往大的方向说，这会影响到人类整个社会的存在形态，往小的方面说，这给我们当下的许多情景提供了新的可能性。科幻恰好非常关注未来可能性，所以人工智能成为一种题材选择也就成了必然。
将这本书取名为《未来史记》，江波想借此向《史记》致敬。每篇小说开头有一篇“导言” ，加入了作家自己的评论，这在以往的小说中是罕见的。史记是纪传体，文末会附上一段司马迁的评论，这段导言，可以看作是评论的变体。江波告诉笔者，他对于人工智能这一方面的观察和认识，就像是和读者先对某个方面的问题进行一次交流，然后再拿出小说来，凭着想象勾画出具体的人和物，在具体情景中描述人工智能，也算是对问题的一种回答。所以这段“导言”或者说评论的目的，就是为了探讨人工智能。它是“现实和科幻融合”的具体表现形式。
书中几篇小说中塑造了哪吒、天元二等几位各不相同的人工智能形象，但它们都“叛变”了原本的任务， “失控”了，如果将来有一天人工智能真的演化到这种程度，人类会冒着失控的危险也要使用吗？对于这个担忧江波解释，人工智能的叛变有两种情况，一种是遵循指令，但是因为人工智能的理解能力超越人类许多，它的所作所为都会超出人类的理解范畴，从而表现为“叛变”但实际上仍旧指向为人类服务的目标。只不过实现的过程会让人类痛苦。第二类才是真正的叛变，也就是人工智能对自身存在意义的反思。他的长篇小说《机器之门》描写的就是这种情形——人类发展的客观规律决定了只要有使用价值，人工智能就会被开发出来。
“失控的风险始终存在，人工智能不会因此停止发展。想一想，我们这个世界，甚至还有故意制造计算机的人存在，制造出具备人类智力甚至超越人类智力的人工智能，会是许多人长期追求的目标。”江波看来， “顺其自然吧，只是我们要尽力让人工智能能够和人类社会文明兼容，让它们尊重人类社会的价值观，不要和人类为敌。这些规则和模式并非预先决定，而是在人和人工智能的互动中逐渐产生。防是防不住的，只能引导。这和教育孩子有些类似。”