2016年3月，人工智能AlphaGo战胜了围棋世界冠军李世石，这让身为围棋爱好者的柳仓感受到了巨大的冲击。震惊之余，他开始思考人工智能对于人类社会的意义和影响。在过去的七年里，媒体人柳仓用业余时间写下了30万字的科幻小说《知然岛》。今年8月，《知然岛》由湛庐文化出版。
包括历史上的许多技术革命在内，AlphaGo横空出世的新闻也出现在小说《知然岛》中。在柳仓看来，所有的科幻小说都是对于“未来的编年史”，近两年来，以OpenAI为代表的大语言模型人工智能出现爆发性增长，“很多我以为属于未来一百年的构想，都正在（或者已经）变成当下的现实，此种情势促使我决定，必须加速完成这部作品，即使不能发表，也至少要奔跑在新世界成形之前，充当一名哪怕只是提前了一秒的预言家，”他在后记里写道。
《知然岛》构建了一个21世纪下半叶的未来世界。在这个世界中，极端天气肆虐全球，人类社会分裂成三千多处避难所，被称为“三千隔都”。在灾难的洗礼下，超智能AI应运而生，为人类提供无微不至的服务，同时也悄然改变了人类的生活方式和思维模式。人们可以在机器上进行工作、游戏、社交，而机器则能够隐蔽而妥善地安排人类迁徙移居等一切琐碎工作。
面对未来，幸存的人类分成两派，一派坚信AI只是一种高级算法工具，不可能有自我意识，他们憎恶被AI全面控制的生活，认为人类会因此丧失全部的意义；而另一群人主张积极拥抱AI社会，将罪魁祸首确定为五千多年来的文字，认为文字是人类文明的歧途，开始毁灭人类的文字。在守旧与革新的冲突中，人类的命运如同浮萍一般，飘摇不定，与此同时，传说中地球上最后一片不受机器控制的乐土——知然岛时隐时现。
“我只能安排这样的小说结尾，让AI飞船携带人类的数字意识散播到宇宙空间，同时在地球的知然岛上，保留人类肉体意识的最后火种。”柳仓说，“或者说，我想暗示的是，人类苛求因果线性而建立的理性世界，在‘并行运算’的AI宇宙中，最终只是汪洋里的一座小岛。”
柳仓
澎湃新闻：根据介绍，《知然岛》写了七八年，这个过程中AI经历了飞速的发展，你在后记中形容是在“加速完成这部作品”，能否先分享一下创作过程，以及你是如何开始关注人工智能的？
柳仓：我是一个业余的围棋棋手，一直关注围棋的进展。2016年，谷歌AlphaGo击败世界围棋冠军李世石，一年以后问世的AlphaZero更是一骑绝尘。围棋被称作“人类智力的圣杯”，人类棋手被人工智能战胜，这是一个重要的历史节点。当时，我觉得0和1的二进制是宇宙中最基本的算法或者文字，我开始构思一篇关于“人类文字消亡”的小说。但我意识到，技术不可能无缘无故地高速发展，必须要给AI提供一个契机，于是我在开头加入气候灾难（一个技术突变的“催化剂”），故事情节随后就自然展开。到2019年年底的时候，小说写了40万字，暂时停下了。直到ChatGPT出来以后，那种每天都有新事物的疯狂气氛，刺激我把这部小说重新拿出来。2023年3月，我投入了一场分秒必争的修改中，要将2019年就完成的40万字稿件，删节到30万字左右的篇幅。
澎湃新闻：关于“人类文字消亡”，小说里也有很多对于文字本身的讨论，比如甲骨文和金文等，你对于文字的源头的兴趣来自哪里？
柳仓：我一直对文字很有兴趣，我读唐诺《文字的故事》时，第一次全面地接触到文字起源的历史。他在这本书里介绍了甲骨文、金文，提到了其他国家的文字，还有汉字作为象形文字的优缺点，我读了以后非常有感触。文字是文明的标签，我们人类在地球上已经有几百万年的历史，但如果从文字的创造发明来看，人类文明的历史不超过5000年。
澎湃新闻：《知然岛》里人类给AI设定了“第四条定律”，这条定律是出于对人类的保护，但从结果上看未必顺遂人意。你怎样看待技术、AI内部的价值观和它们的善恶？
柳仓：“第四条定律”规定，如果人类遇到危险的话，AI必须不惜舍弃自己，来保证人类的完整；而AI认为，如果要保证人类的安全，必须尽量回避危险，为人类提供无微不至的服务，后来又决定把人类全部上载到云端，获得“永生”。
机器可能在某些细节上有善恶，我认为我们作为碳基生命，无法去评价硅基生命的善恶伦理。另一方面，即使是硅基，也遵循二进制的逻辑，而这个逻辑依据的是人类的设定，它会跟着你的设定做到极致。AI的造物主恰恰是我们人类自己，是我们所定下的规则，启动了它的进化程序。
AI会涌现自己的意识吗？我在书里写了“新旧之争”：老一派坚信AI只是一种高级算法工具，不可能有自我意识，而新一派认为AI有自己的意识，但是它逃脱不了最高的原则。不管用什么手段，它会实现你人类所要求的目标，这是一个荒谬的悖论。
澎湃新闻：小说里可以通过上载云端来获得自己的“永生”或是复活家人，你是怎么看这种选择的？
柳仓：我觉得如果是在现实世界永生的话，会破坏人对生命的敬重——因为你的时间是无限的，无论你做什么，到最后都可以挽回，但如果有一个终点，你会感到紧迫感，所有的事都会变得有意义。而关于云端上的永生，我在小说里有一段很长的描述：“机器复生亡者，本是毫无意义的事情。因为一方面，你无论如何也无法将它恢复到亡者本来的面目，即使你能做到，这一团数据代码也终究不是亡者本人，因为意识、感情、回忆都需要血肉之躯来承担。而另一方面，也许是更重要的方面，如果亡者复活，在虚拟世界里永生，而我们却自有一具肉身躺在真实世界里，终将一个个死在黑屋子里，这实在显得自相矛盾，充满讽刺。”
澎湃新闻：作为创作者，你怎么看创作和AI的关系？
柳仓：原来我们以为AI会代替那些低级的劳动力，但是现在，那些需要耐心细致的劳动反而是AI暂时替代不了的，比如护士。而像创意类的工作，按照AI现在的发展，可能十年内会遇到很大的挑战。我更倾向于AI和人类配合来完成工作，因为到最后还是需要人与人之间的交流。我觉得AI会是一个助手，就像现在国际象棋中的“半人马”比赛，人可以在AI辅助下和同样有AI辅助的选手比赛。
澎湃新闻：《知然岛》是科幻小说，也有很多关于哲学的讨论。有哪些作家或作品对你产生过影响？
柳仓：我是一个文学爱好者，尤其热爱欧美文学，平时阅读的都是福克纳、纳博科夫、奈保尔、马尔克斯、博尔赫斯、卡夫卡、卡尔维诺、托拉尔丘克、门罗、科塔萨尔等等。有些经典作品是经得起反复阅读的，譬如纳博科夫的《洛丽塔》或者里尔克的《布里格手记》。
另一块深度阅读的是科普与哲学作品。麦克卢汉的《理解媒介》、罗韦力的《现实并不似你所见》、梅拉妮的《复杂》、布莱恩的《技术的本质》、KK的《科技要什么》，以及本雅明、韩炳哲、丹尼特、平克等人的著作，他们都让我重新思考人类在这个世界中的位置。
至于科幻作品，我读得相对少一些，记忆中除了刘慈欣、德特姜、韩松的几部作品，似乎没有什么太多印象。科幻小说其实是未来的寓言，有强烈的警示作用。它对社会的重要性，应该和超现实艺术一样，就像宇宙间的一面镜子，能帮助人类避免自恋情结，认清我们人类不过是一个宇宙发展的自然过程，就像其他事物一样，有出现，就会有消亡。
还没有评论，来说两句吧...