Concept art made by my OSV teammate Liberty
当我们试图理解一件事情的时候，经常会陷入一种无限循环的怪圈当中。市场跌跌涨涨，历史不断重复，我们总会在兜兜转转后，又回到了原点。
我目前就职的美国投资公司OSV旗下有一档叫做Infinite Loops的播客，主播吉姆·奥萧纳西（Jim O’Shaughnessy）是美国知名资产投资和管理人（我老板），也是Stability AI的董事会主席和多本投资类畅销书的作者。他通过采访来自不同文化和背景的人（包括历史、哲学、艺术、科学、科技和金融圈等），帮助我们解答上述开场白中的困惑，培养我们成为一个可以掌握全面世界观的思考者和投资人。 本周，吉姆采访了中国知名科幻作家陈楸帆，以下是这期播客的中文翻译文稿，喜欢科幻小说以及对人工智能感兴趣的读者朋友们不要错过！
Jim：大家好，我是Jim O'Shaughnessy，欢迎收听全新一期的Infinite Loops播客。我一直很期待今天的嘉宾，作家陈楸帆。他是我最喜欢的作家之一，我一直向人们推荐他的一本书，这本书可以帮助人们更好地理解人工智能的发展。这本书的名字是《AI未来进行式》。你曾经说过，陈楸帆，通过科幻的方式想象我们的未来，我们可以积极地参与其中并加以塑造。我完全同意。我认为人类是依靠故事前进的，而你写的故事非常出色。欢迎你作客我的播客。
陈楸帆：谢谢你，Jim。感谢你邀请我来Infinite Loops播客。我非常开心能与你分享一些我的想法，当然也很期待与你就人工智能以及当前的发展进行更深入的讨论。 Jim: 当我开始投资并担任Stability AI的董事时，我全身心地投入到人工智能领域。哇，这真是一个需要在短期内掌握全新知识的领域。 陈楸帆: 真的是。 Jim：我之所以喜欢你的书，是因为它真正融入了人类叙事的元素。你是一位出色的作家，赢得了许多奖项。告诉我，你是否一直对各种形式的科幻故事深感着迷？ 陈楸帆: 是的，我从小就是科幻小说的粉丝，所以在幼儿园的时候，大约在那个年龄，我开始读亚瑟·克拉克、阿西莫夫甚至更老的作家，例如H·G·威尔斯和儒勒·凡尔纳的作品。因为我爸爸曾在超声波研究所工作，他们那里有一座巨大的图书馆，里面藏满了各种科普和技术书籍以及手册之类的东西。他经常会带我去那个图书馆，于是我发现了一些科幻小说。我完全沉迷于那个世界，它如此令人迷人，我深爱着科幻世界，它也成了我的毕生追求。 Jim：我也是一个极度热衷于科幻的人。你提到了艾萨克·阿西莫夫，他曾说过一句我觉得非常有趣的话，我想听听你的看法。他说，基本上从某个发明的出现到我们看到它在实际生活中的应用，大约需要60年的时间。所以你在书的开头提到约翰·麦卡锡在1956年创造了「人工智能」这个术语，而2016年，事情才开始真正升温。你认为第三次人工智能浪潮的开始可以追溯到2016年或2017年吗？ 陈楸帆：我不太确定是第三次浪潮还是第四次浪潮，因为过去发展中有很多起伏。我认为正如阿米拉法则所述，人类总是对新技术有错误的假设。我们倾向于高估新技术在短期内的影响，但低估了新技术对于我们长期的影响。这是人类一直以来的做法。 所以我认为在人工智能方面，例如在50年代、70年代、80年代，所有专家、科学家都猜测人工智能可能会在五到八年内出现某种可以与人类媲美的通用智能，但所有这些猜测都错了。基本上我们正在朝着另一个方向发展，比如神经网络。在当时，没有人认为它真的有用，但不知怎么的，它确实起作用了。所有这些都让我想到了科技的不可预测性和不确定性，它可能有自己的生命周期，有时候它是相当随机的。 我思考了一下关于我们在汽车上使用的技术。在过去，我们有电动汽车，蒸汽发动机和内燃机等等。但不知怎么的，我们选择了最困难、最不稳定的一种，因为资本在德克萨斯州发现了大量的天然气和石油。因此，资本和社会选择了另一条通往未来的替代路径。所以这总是让我想起，在科幻小说中，我们对未来也经常做出错误的预测。 Jim：路径依赖性非常重要。乔舒亚·沃伦有一句很棒的话，他说：「过快地理解新事物是一个错误。我们通常并不能完全理解它们，然后酿成大祸。」这也是我喜欢你的书的原因之一，因为你真正做的是提供了十种可能的未来愿景。而且我们始终要注意到，当电影变得流行起来的时候，人们并不知道如何处理它。他们认为，「也许我们应该拍摄戏剧」，因为那是人们当时所熟悉的。我认为我们人类天生对新事物持有恐惧感。从进化的角度来看，当我们生活在一个非常危险的世界时，这是非常合理的，但现在可能不那么合理了。 你提到普通人（不是人工智能迷的）一般通过阅读科幻小说、新闻和有影响力的人的言论来了解人工智能这样的技术。我完全同意你指出新闻报道通常都很负面的这一点。我认为你的书和你的工作非常重要的一点是，你没有掩饰事实，我们马上会谈到这一点。你在书中描述了一些相当可怕的故事。 例如，首篇故事《一叶知命》讲述了一个孟买的家庭获得保险的故事，但保险是由人工智能引导的。首先，我很想听听你的看法，为什么要写这个故事呢？是不是因为我们人类的本性，只有血腥才能引起关注，这就是新闻如此负面的原因？但你也提到了H·G·威尔斯那种科幻小说，例如《星际迷航》，H·G·威尔斯对未来持有积极的观点，但后来我们似乎陷入了反乌托邦。顺便说一句，我非常喜欢很多反乌托邦的科幻小说，因为它们很有趣。但我认为它们在人类心中植入了一些过度消极的观念。你对此有什么看法？ 陈楸帆：是的，首先，我也是一个星际迷航迷。所以斯波克一直是我在科幻题材中最喜欢的角色，我总是在书上签名时写上「Live Long and Prosper 生生不息，繁荣昌盛」。这是最好的祝愿。我认为现在人们倾向于创造更多反乌托邦的故事和叙述的大部分原因是因为我们经历了20世纪的巨大毁灭和失败，我们经历了两次世界大战，当然还有苏联的解体，所有这些似乎都导致乌托邦幻境的破灭。我认为这使得乌托邦的故事变得难以令人置信。这就是我们为什么对于未来的想象转向更加消极、黑暗和悲观的一面。 但我认为这也是为什么新闻和互联网上的有影响力的人们试图恐吓大众的原因，因为这绝对能够吸引更多的点击量，他们制造了这种焦虑感、恐慌感，当然也会使用非常可怕的标题。有一天我看到了一个标题，说解放军将对美国发动战争，当我点进去看时，结果什么实质内容也没有。这真是太有意思了，你会被这样的标题触动，本能地想要点进去看看。所以，我认为这是深深植根于我们人类本性中的东西。当有人告诉你：“好吧，你中了彩票”或者其他什么事情的时候，你很难去相信，因为你知道你没有买过，或者你知道这不可能发生。所以这有点像做白日梦，你不会去相信它。 但是，当有人告诉你一些不好的事情可能会发生时，你会立刻被吸引。但是在人工智能方面，我认为这正是我和李开复博士一直在讨论的内容，因为我们非常努力地去尝试创造一种关于人工智能的未来愿景，我认为这不仅仅是关于人工智能超级大国，甚至不仅仅是关于精英、特权人群，而是关乎每一个人的命运。它关乎所有那些可能会因时代变革而被波及到的普通人。所以我认为最重要的是帮助人们理解技术以及其背后的东西。作为个体，我们如何主动参与并利用技术来提升自己，释放个体的潜力？我认为这是非常重要的。你永远不想与人工智能竞争，去追求那种准确的计算、收集大量数据并基于此进行分析和决策的能力。我认为这不是人类所擅长的。 所以我们必须要回归人性，看看从古至今的关键部分。人类的真正优势是什么？我们必须强调像共情这样的优势，人类的交流能力、领导力，当然个性也非常重要。 我认为很多家长并没有意识到他们现在教给孩子们的东西实际上是无用的。就像我在中国上学的时候一样，教育体系总是强调要背诵。你必须记住所有的历史事件、所有的日期、特定的名字等等。但是现在我们知道这完全没有用。一切都在你的指尖上。你可以使用搜索引擎或直接询问ChatGPT。也许它会给你错误的答案，但谁在乎呢？所以现在这些知识几乎变得无关紧要。 我认为我们需要进行范式转变，不仅在技术方面，也在心态和意识层面上。对于人类来说，改变他们的思维方式甚至更加困难。所以，我认为讲故事如此重要的原因是它确实能够改变人们对未来的感知和想象。 Jim：在你能够实现某个愿望或目标之前，首先你必须能够构思和想象它。这就是为什么讲故事的能力在这个历史时刻如此重要的原因。你对教育的评论，在我看来，非常准确。我今年63岁，当我还是个孩子的时候，拥有好的记忆力等同于聪明。而现在，我认为与其试图教会每个人应该怎么想，我们需要教会他们如何思考和使用这些工具。我强调了“工具”这个词，我们可以将工具作为杠杆，无论是用在好的还是坏的方面，正如我们即将讨论的几个故事中所涉及的那样。但归根结底，工具本身是中性的，取决于人类使用这个工具时的善恶取向。 我想谈谈你书中的一个故事《双雀》，因为我认为人工智能在教育领域的应用是我最令我兴奋的案例之一。你能给那些还没有读过《双雀》故事的人提供一些背景知识吗，并解释一下你是如何利用这个故事来说明人工智能的力量，它可以带来一对一辅导的教育机会，并直接根据学生的学习情况进行建模吗？ 陈楸帆：好的。《双雀》讲述的是一对孪生兄弟的故事。他们成为孤儿后被送到了韩国首尔的一所孤儿院。在那里，这所孤儿院采用了先进的技术，如人工智能、数字孪生、增强现实等，为每个孩子量身定制了一个独特的人工智能伴侣，根据他们的个性、学习曲线、特长、情感反应等等，创造了一个独特的个性化教师、伙伴、玩伴和朋友。基本上，他们为每个孩子创造了一个特定的环境。 因此，我认为这可能会成为未来教育的变革者，因为我们都知道现在教育资源的分配存在不平等的问题，尤其是教育行业。为什么人们选择住在特定地点？因为它靠近某些学校，这些学校拥有师资、课程和基础设施等资源。但问题是，即使你进入了这样的学校，进入了最好的班级，拥有最好的老师，但可能一个教室里有50个不同的学生，但仍然在学习相同的东西，参加相同的考试，听老师对他们说相同的话。所以我认为这绝对是不公平的。 在我们的想象中，我们可以在未来利用这种技术创造绝对个性化的教育体验。这意味着每个孩子都有机会充分发掘自己的潜力。它基于人类反馈进行学习，并调整其课程和响应模式。它会改变说话的方式，当然也会使用游戏化的方法帮助你学习你可能感兴趣的东西。 我认为这非常有趣，因为回想起我在学校时的经历，我发现老师通常只会关注班级中的前十名学生，他们会给这些学生布置更多的作业，甚至在课后为他们提供额外的阅读材料。这种区别对待实际上加剧了班级同学之间的差异。这种差异化教育可能会对孩子们造成很多创伤，因为他们会觉得自己不够好，不值得老师、父母或其他同学给予更好的态度。 所以我认为这是完全错误的，我认为每个孩子都应该被平等对待。当然，这是我们正在讨论的另一个层面，即动员一场社会运动。这意味着你必须抵制学校、教师甚至整个教育系统等传统观念，因为我们试图让每个人都适应这个权限等级体系。这意味着如果你符合他们的标准，你就是聪明的好孩子，你会被放在一个阶梯上，根据他们所设定的考试成绩等指标来攀登这个阶梯。 但我认为这是不对的。评估人类潜力需要考虑许多不同的维度，因为有些孩子可能擅长玩耍、讲故事、跳舞等等。但在某种程度上，我认为尤其是在中国，他们并不总能获得好的机会。因此，我认为人工智能可能会改变每个人的未来。 Jim：我同意。我认为你提到的「一刀切」的观点，在中国乃至全球的教育标准中是普遍存在的，我们的社会正从大规模生产转向大规模定制。人工智能为每个人（不仅仅是儿童）带来更好的教育体验让我激动万分。其中一个关键点是人工智能可以根据与其合作的个体进行个性化训练。有些人是视觉型学习者，有些人是听觉型学习者。正如你所知，有些人具有艺术技能，而有些人具有科学技能。我认为这种一对一、同伴式的教学方法，将通过人工智能实现。这是对过去那种只关注顶尖学生的旧方式的巨大改进。《双雀》故事中令人印象深刻的一点是，尽管他们是双胞胎，但他们的结果却非常不同。请谈一下这一点。 陈楸帆：是的，我们在谈论的是双胞胎兄弟。一个是金雀，一个是银雀。他们的性格非常不同，拥有不同的个性和技能。金雀非常外向，善于社交，被一个富裕家庭收养。他的父亲试图引导他成为一个投资者，成为商业精英，追随父母的道路。我认为这完全没有错。 但是弟弟银雀被一个非常古怪的艺术家家庭收养，这是一个非二元家庭。银雀有一些自闭症的特质，所以更多地沉浸在自己的世界或想象当中。但他是一个非常有天赋的艺术家，擅长运用新媒体技术创造出迷人的世界。 我觉得他们在不同的方向上发展，他们之间的羁绊被社会偏见和阶级差异切断了。但在某个时刻，他们迫切地感到需要重新连接，就像血脉和基因中的传承一样，而人工智能在这一点上起到了作用。我觉得这个故事的神奇之处在于它偏离了科学叙事的范畴，有些神秘，更具有一种我会说是精神层面上的意义。想象一下这对双胞胎兄弟如何在人工智能的帮助下重新连接。它有点超脱尘世的感觉。我无法用科学和技术的方式来解释，但我会说这是我对未来技术的想象。它不是切断个体与个体之间的联系，当然还有人与自然之间的联系，而是重新连接所有这些因素。不过，我们现在还不能百分之百确定如何实现这一点，但我认为这是我对未来技术的看法。 Jim：是的，这就是我喜欢这个故事的地方。你在设置故事情节时非常出色，一个兄弟选择了商业道路，另一个兄弟选择了艺术道路，这创造了一种紧张感。我喜欢你引入了人类的超越性。我非常相信被称为「Centaur Model」的人工智能模式，即人类加上人工智能，对吗？ 陈楸帆：是的。 Jim：这种根据每个人的技能、兴趣和才能的独特组合对于每个人来说都是不同的。我喜欢你在故事结尾处解决了这个问题，人工智能实际上把他们重新连接在一起。但这也是隶属人类的一部分，我喜欢这一点，血浓于水，本性难移。 这也让我想起了本书的第一个故事《一叶知命》，它讲述了一个在孟买的家庭受到他们保险公司的支配，要求他们做某些事情，避免其他事情。当我读这篇故事时，我立刻想到了极客术语中的"最大化目标函数"这个概念。以前使用最大化目标函数是为了实现利润或收入，但现在不必局限于此。我们可以将最大化目标函数应用到对创造力和艺术的追求。在这个故事中，我觉得非常有趣的是，人工智能是否能够识别出看不见的歧视，并加以强化呢？我想听听你的意见。 陈楸帆：是的，没错。这个故事的重点就是回顾印度过去的种姓制度。当然，种姓制度在20世纪50年代被法律禁止，但它仍然存在于隐藏的社会结构中。想象一下，大型语言模型基本上是通过从互联网上获取的各种文本数据集进行训练的。所以它们从我们的语言中提取出来以及学到的东西实际上可以揭示语言中看不见的偏见、歧视和暴力，尽管我们在意识层面上无法意识到它们。 我们的社会禁止人们歧视比自己低的阶层，但在教育领域、职业市场、消费行为甚至社会互动等方面仍然受到历史上不平等的影响。因此，所有这些残留因素仍然存在，它们被机器、AI算法挖掘出来，并强调放大。如果我们不采取措施纠正这种偏见，不仅在印度的孟买，甚至在全世界，都会发生或在未来发生这样的情况。 在就业市场中，所有简历扫描算法往往会自动拒绝女性的申请，因为人工智能知道她们通过人工筛选流程的机会较小。所以，我认为所有这些偏见都是人类创造的，是我们自己造成的。但问题在于我们如何识别这些偏见和歧视，以及我们如何建立起对抗这些负面因素的保护系统。我认为这是所有工程师必须牢记的事情，因为有时候我感觉他们只是从非常优化的角度考虑问题，只关注目标函数、效率和投资回报率，而没有真正考虑到人的因素。因此，这就是为什么我们需要在这个流程中引入不同的观点，我们需要人类参与其中。 Jim：我非常赞同，你提出的观点非常重要，因为如果仅仅依靠人工智能本身的话，它可能会揭示许多我们没有意识到的隐藏偏见和没有经过深思熟虑的问题。然而，这些问题确实存在，你给出的例子就很好地说明了这一点。我认为故事的力量在于它突出了这一点，并展示了如果我们只是以"客观"的方式来处理问题，实际上可能会在无意中加剧这些偏见。 意识到这些问题的存在后，我们就有责任，正如你所说的那样，作为人类的一份子来发声：「哇，等一下。我们肯定不希望人工智能强调这些偏见。」这些偏见往往是无中生有的。它们来自人类部落化的传承，是"我们"与"他们"的对立，将对方妖魔化。不幸的是，这似乎是我们人类进化的一部分，我们当然不希望这种新的革命进化形式强调那些人与人之间亘古不变的敌意。因此，我认为这个故事是一个很好的例子，它揭示了问题，并让我们开始思考如何纠正这个错误。 另一个让我着迷的故事是《假面神祇》，因为在我担任在Stability AI的董事时，我努力将技术天才的概念转化为对科技感兴趣的普通人所能理解的语言。而当我与人们讨论人工智能时，我经常听到他们最关注的问题之一就是深度伪造技术的概念。你写了一个名为《假面神祇》的精彩故事，讲述了对尼日利亚政治家进行深度伪造的情节。我们在故事中了解了生成对抗网络（GANs）之间相互竞争的过程。 我认为这是我们必须着手解决的问题，甚至我和我在 Stability AI 的同事们一起合作，筹备了一个竞赛，为那些擅长识别深度伪造模型的人提供丰厚的现金奖励。但是我对此并不抱有幻念。因为一旦这个模型问世，生成对抗网络就会利用它来制作更逼真的深度伪造内容，所以这将是一个持续的挑战。对于深度伪造和虚假视频、虚假故事大量传播所带来的潜在叙事崩塌的风险，你有何看法呢？ 陈楸帆：是的，首先，这个故事是我在2020年或2021年写的。那时候我和李开复博士认为生成对抗网络将在未来成为深度伪造的主要技术。但到了2020年，当我开始使用Stable Diffusion、Midjourney等技术时，我心里想着：「噢，天哪，他们并没有使用生成对抗网络，而是使用了扩散模型。」你永远无法以非常准确的方式预测到这种情况。我认为这就是科幻小说一直在做的事情。你试图预测一项技术的所有细节，但结果总是不尽人意。但是当你用隐喻的方式捕捉技术发生时的氛围和时代精神时，你总是能做对，因为现在深度伪造技术就是一种潮流，你不仅可以使用Midjourney来创建这种超逼真的照片幻觉，还可以使用像Runway这样的应用程序来使用人工智能创作视频，甚至在未来制作电影。 谷歌有一个名为「完善回忆」的新功能，你可以通过修改、擦除等功能修饰很多以前的照片，而且看起来百分之百真实，用肉眼根本无法区分。所以在我的领域，有些人可能会想：「这真的是在过去发生的吗，还是我记错了？」这种因为深度伪造技术而造成的困惑在网络或个人生活中十分普遍。所以我觉得这有点可怕。我认为你现在所做的事情非常重要，因为我们正在尝试阻止这种现象的发生。我觉得可能不只需要一次努力，因为技术还在不断发展，人们会想出更高效的模型来制造这种深度伪造内容。 我认为更重要的是如何说服执法机构将其纳入框架，思考我们如何从更高层面和制度化的角度来监管这些应用。我们必须采取行动。在故事中，我们谈到了主流网站和视频网站必须部署这种反深度伪造内容检测器。这在未来是必须的，因为没有人能够轻易分辨真假。你必须要在内容上嵌入一些数字水印，以帮助系统识别它，然后在内容上加上标识以帮助人们判断它的真实性。否则，我认为将会出现巨大的问题，因为人类的思想很容易被操纵。从诸如选举这样的大型活动中，我们可以看到通过分析，比如在Facebook上的点击，就能推断出你的性取向。我们必须牢记一点，互联网上有很多东西可以被识别、分析、收集，并可以用来对付人类自己。 我们必须帮助人们做好准备应对那些并不真实的照片。有时候感觉就像是我的父母一样，他们接受这些新事物的速度甚至比我还快，因为他们对此一无所知。所以他们可能会想：「好吧，其他人都在使用，有什么害处呢？甚至政府都没有对此发表任何言论，所以这应该是安全的。」但实际上并非如此。而且我觉得我作为一名作家、有影响力的人和负责任的媒体从业者，应该不断地向人们传递这些信息，比如「不要相信互联网，不要相信任何来自政府的信息，它们可能是假的」。 Jim：是的，这就像是一个进退维谷的困境。这让我们回到了创新和工具的话题。当我们发现了火之后，对人类来说是一件好事。火使我们得以烹饪食物，并帮助我们进化出了用于推理和执行功能的前额叶皮层，但它也非常危险。因此，除了火之外，我们还不得不发明消防部门、消防人员、火灾报警器、安全出口等等。这些都是逐步发展的，我们会意识到：「哦，我们没有考虑到那个问题，我们最好要设立相关的应对措施。」 我认为目前所面临的挑战之一是我们已经将两个极端固定下来了。一端是技术乐观主义和乌托邦主义，他们都在说：「噢，天哪，通用人工智能就在拐角处了，我们一年内就能拥有。」我并不同意这种观点。 然后，在另一端有人主张轰炸GPU工厂，因为即使机率微小，但可能也会对人类的生存造成风险。如果我们能够尝试进行更加实际的讨论，既关注好处又关注问题，「看吧，说一切都会很棒显然是愚蠢的，那是你在掩耳盗铃。」我认为固守这些极端立场并不能帮助我们将这一工具推进到一个更好的阶段，我们应该通过更开放的对话来探讨其潜力。 我喜欢这本书的原因，也是我高度推荐它的原因之一，是因为你在平衡方面做得很好。书中还有一篇故事，当我读到它时，我就觉得「哇，天呢！」那个故事叫做《人类刹车计划》。所以，我想向观众和听众强调的是，你绝对是一位公平客观的作者。你并没有说，「哦，未来会完美无缺，人工智能将解决我们所有的问题。」《人类刹车计划》这个故事讲述了一个可能发生的外部性问题。请谈一下这个故事，然后我们可以聊一聊如何解决这个问题。 陈楸帆：《人类刹车计划》是一部充满好莱坞风格的动作巨制，讲述了一位数学科学家、量子物理学家，在加利福尼亚北部的天堂镇火山山火中失去了家人。这种悲剧过去发生过，将来也会再次发生。因此他陷入了疯狂的状态，希望向世界报仇。他利用了人工智能、自主武器、无人机等技术，为自己制造了整个军队，并打算攻击所有相关的基础设施和人类同胞。他的目标并不是普通人，而是被称为加速主义者的精英们，这些人相信技术将为人类带来福祉。之后，这个故事有点像心理分析，我们将深入挖掘主角经历的创伤，看看所有这些事情如何相互联系，以及他如何试图将整个人类文明带回没有互联网、没有连接性的时代。他深信切断所有这些联系可能会恢复人与自然的和谐平衡。 我认为这是针对加速主义的一份非常有力的宣言。当然，这是一个隐喻，你能从中发现可供参考的价值，因为我们实际上正在打造这种灾害，人工智能确实需要大量的电力、计算能力和基础设施，所有这些排放都会在大气中产生更多的碳，当然还有人类对自然资源的无限开采。我认为这是我们必须仔细思考的问题。否则，它只会让我们处于失衡的状态。就像你在野外行走一样，你手中握有许多事物，你试图把玩它们，但不知何故你没有意识到自己正走在野外，那里是如此深邃，潮汐在下方涌动。 我认为我们一直在讨论的一个问题是关于数据中的非人类部分，也就是在构建更具包容性的模型时如何考虑到其他物种，甚至是环境因素。这不仅仅涉及到人类一方，还包括动物、植物甚至真菌等其他物种。我认为这是一个非常新颖的起点。这是我们必须选择的正确方向，根据古老的中国哲学道家思想，无为而治即是最好的方式。 想象一下我们刚刚经历的大流行病。当你试图努力打击和控制一切时，基本上什么都实现不了。当然，疫苗接种非常重要，药物和科学的检测方法也非常重要，但是我指的是我们必须按照一定的方式行事。我们必须承认我们只是地球上众多物种之一。当你打破了世界的平衡时，大自然将会扭转趋势，重新实现平衡。在故事中我尝试讨论的不仅仅是技术，还有对待他人的态度。 Jim：是的，我也是道家的忠实粉丝。我从18岁开始阅读《道德经》，现在终于开始理解其中的一些概念了。 陈楸帆：不错，不错。 Jim：你提到的阴阳相互作用是我之前没有想到的。当我听你说的时候，我想到一件事，很多问题并不一定是技术本身造成的，更多的是由于我们人类自身的问题，对吗？ 陈楸帆：是的。 Jim：因为这位科学家经历了绝望，然后渴望毁灭一切。你会看到类似"把一切都烧毁"的口号和信息。当然，这也是美国的恐怖分子泰德·卡辛斯基的宣言，在他之前还有卢德派，他们破坏了所有机器，因为他们十分害怕。在我看来，我们需要公开讨论人性的两面性，因为我认为人类本质上是情感动物，而最常支配我们的情感是恐惧，特别是对未知的恐惧。这会导致一些负面的行为，比如对报复的渴望，产生滥用事物的欲望，或者将某些不幸归咎于其他事物。 当然，《沙丘》中也有关于对科技的圣战，整个故事都围绕这个主题展开。我喜欢《沙丘》。这个问题在科幻小说和其他故事中都有涉及。但是，我认为这又回到了故事的力量，在我看来，故事有能力引发对于这些问题的讨论。我非常欣赏你和你的AI合作伙伴在写这本书时毫不畏惧地提出了这个意义重大的问题和观点。如果我们现在不开始思考这个问题，可能会有一些可怕的意外等着我们。 让我们来谈谈就业方面。我经常听到人们对于工作的担忧，尤其是那些对人工智能并不熟悉的人。他们听说深度伪造技术之后，首先想到的是自己的工作是否安全。我试图告诉他们，很多工作可能会因为人工智能而变得过时、不再被社会需要，但这并不意味着人人都会失业。我认为我们做得不够好的一点是，我们很擅长说「这将杀死某某职业，比如广告文案，或者平面设计」，但我们却没有揭示新技术将创造出多少新的工作岗位。 故事《职业救星》引发了人们对全民基本收入的讨论，探讨了自动化导致工作岗位消失所带来的挑战。尽管全民基本收入存在一些缺点，可能会产生额外的问题，但它被视为解决因自动化导致工作流失问题的一种方式。人类本性中对使命感或目标的需求，确实是我们存在的基本特征。许多人通过从事有意义的工作并为社会作出贡献来获得满足感和成就感。这包括发挥我们人类在创造力、同理心等方面的天赋。虚拟的或无实际产出的工作可能无法满足人们对意义和目标的需求。人们通常希望从工作中获得一种实质性的成就感和自我认同感。因此，尽管在技术进步的背景下我们需要重新思考工作的定义和价值，但给予人们虚假的工作可能无法满足人们的内在需求。我们需要更深入地探讨未来工作的本质和意义，以确保人们能够获得满足感并发挥自己的才能。 陈楸帆：是的，正如大卫·格雷伯所提出的「狗屁工作」一样，工作基本上是一种社会和文化构建，但生活的目的并不仅仅是为了工作。我认为这深深植根于我们的人性之中。所有的宗教基本上都在尝试解决这个问题：我们为什么活着，为什么存在？处于痛苦孤立等困境中，甚至牺牲自己等等这一切的目的是什么？我认为人们需要在做任何事情时都带着目的。因此，在这篇故事中，我们提出了这样一种观点，再次强调了乌托邦和反乌托邦的概念。我们试图超越二元对立的思维。这与道家思想非常相似，道家思想基本上是在讨论所有相互矛盾的事物实际上是可以互换、相互连接、交织在一起的。 是的，我们谈论使用人工智能来重新调整、重新学习、重新复兴，以帮助人们在社会中重新分配他们的工作。 所以我认为在未来可能不再关注你的工作能创造多少实际经济价值，而是关注你的心理健康。人工智能如何帮助你维持甚至提升你的生活状况、以及你作为人类在家庭、社会和社区中的情感体验。我认为这非常重要，有时这些东西都是无价的，因为你无法用某些数字来量化它们。 所以我认为这更加棘手，因为人们可能会想：「好吧，这份工作让我痛不欲生，但我非常需要它，因为它给予我很好的薪水。」但是你知道，有时候你会觉得，你可能失去了一个去发现自我或者获取其他机会的契机，这种计算无法用数学来衡量。也许你发现自己内心真正想实现的是成为一个艺术家、作家或其他什么的梦想，但因为你被困在这个高薪的工作中，比如工程师、金融家或其他职业。我认为最重要的是我们如何利用由新技术带来的结构性动态变革来改变就业市场，以及如何创造新的工作岗位，帮助人们平稳过渡到另一个领域。 我认为这更有意义，因为人们会想：「哦，现在我有机会做我真正想做的事情了。」这是对这种变化的全新态度。当然，人们可能会因此而遭受痛苦。这并不能完全缓解情感上的不适，也不能解决所有转变过程中的痛苦。但我认为，如果我们真的能重新学习和调整自己，不仅仅是与外部期望相协调，而是真正审视自己，意识到「好的，这让我感到满足，或许它能帮助我在更高层次上实现自我。」这是我对未来的想象，也许像人工智能这样的技术能帮助人们找到答案。 我认为这将彻底改变整个社会、整个文明，从而进入一个新的层次。如果你想象每个人都可以做自己真正热爱、充满热情的事情，他们肯定能做得比那些让他们感到痛苦的「狗屁工作」更好。因此，我相信最终这将提高整个社会的效率，并使其获得更大的进步。 Jim：是的，我认为你强调的这一点非常重要。我们有文化滞后现象，人们有一种倾向于接受长期存在的东西的态度。至少在西方，人们认为「我的工作定义我是谁」。但实际上，你的工作并不能和你是谁划等号。 陈楸帆：是的。 Jim：所以你存在的目的有时候是你的工作，但绝大多数时候并不是。你的业余爱好和职业可以是两种非常不同的事情。我们看到人工智能这个工具可以被用来，正如你所说，推动我们迈向下一个层次的进化。但这会是一个混乱和可怕的过程，而且对于人们来说，思考这个问题会让很多人感到害怕。但我喜欢这个想法，在享乐主义的道路上奔跑不必成为你的命运，而人工智能和其他技术创新为我们提供了机会，也许让我们能够在马斯洛金字塔的需求层次上实现跃迁，并让更多的人有机会向上提升。 我还很喜欢你写的一个故事《幸福岛》。幸福的概念确实很复杂，我同意幸福通常是我们行动和经历的副产品，而不是可以直接追求的东西。在故事《幸福岛》中，你探讨了一些更加抽象的思想。能否稍微谈一下《幸福岛》这个故事，因为我读到这个故事时的第一个念头就是：「哇，这将会是一部非常棒的电影。」 陈楸帆：《幸福岛》讲述了一个俄罗斯的成功商业大亨陷入了极度的抑郁，尽一切努力寻找幸福和快乐，试图不让自己走向自杀的轨道。他收到了来自中东国家卡塔尔的神秘邀请，他们建造了一个人工岛屿，利用人工智能在岛上打造幸福生活。基本上这就是故事的主旨。他是少数几个收到邀请可以首次参观岛屿的贵宾之一，他陷入了一段充满戏剧和浪漫的境遇，还与公主有所牵连。但不知怎么了，他最终成为了一个逃亡者，必须逃离这种非常可怕的猫鼠游戏。通过所有这些游戏化的经历，他发现自己在某种程度上重新获得了幸福感。 我选择给这个故事一个模糊的结局，因为我希望读者能够自己做出假设并得出结论，看看到底发生了什么。人工智能是否真的能在某种程度上帮助我们追求幸福，或者只是一种投射和幻觉？所以我认为，这是一种非常主观的感受，生活中所发生的事情与许多不同的维度和因素均有关联，这是肯定的。 通过人工智能，我们可以使用生物标志物以及微表情识别技术分析人类的行为反应模式等等。当然，在语言层面上，人工智能绝对可以比人类心理治疗师做得更好。但所有这些努力是否真的能导致更加幸福的生活，这也是一个巨大的问号，甚至对我自己而言也是如此。因为我知道，有时候如果你越努力追求幸福，反而会将其推得更远。这是我的感受。 有时候，我觉得最简单的方法就是什么都不做。回到道家思想，无为而治，就像你说的，当你忘记了你所学到的一切，你就能获得终极的幸福，因为你忘记了一切困扰你的事情。这是令我着迷的地方。最长远的任务可能是最短的路径。这是我对这种非常非常神秘的思维方式的理解。在当代中国我们仿佛失去了所有这些古老的哲学思想。 Jim：是的，欲望和执着是痛苦的根源，这对人们来说有时很难理解。然而，大多数的伟大思想家都传递了相似的信息，即对外界事物的执着并不能帮助我们通向幸福。我们自欺欺人的认为如果我获得了这个东西，那么我就会快乐。事实上，这种观点已经被充分证明是不正确的。当然，这个故事的本意在于小心你许下的愿望，因为你可能最终得到了你梦想的东西，但结果却不是你真正想要的。 我想讨论的最后一个故事是《丰饶之梦》。我认为，我们正从占据整个人类历史的主导因素中脱离出来，那就是稀缺性。稀缺性驱动着零和行为，引发各种致命性的竞争，构建了你之前提到的等级制度。 为了维持自己在等级制度中坐拥高位，有什么比妖魔化别人并以某种方式暗示他人不配担任那个特定职位更好的方法呢？你可以在某些宗教中看到这种情况，也可以在某些哲学体系中看到，当然不包括道教在内，但是在许多其他文化中都存在。你对进入一个丰饶世界有什么看法？在这个世界中，我们用什么来取代金钱？在这个世界中，我们用什么来取代所有东西？再次回到《星际迷航》，生生不息，繁荣昌盛。还记得那里的复制器吗？我想要英式早餐茶，嗖，它就出现了。请谈谈这个故事，因为你提出了一种非常巧妙的替代金钱的方式。 陈楸帆：说到这个，我想推荐一本书，名为《Trekonomics》。它基本上讨论了在真实世界中如何实现《星际迷航》中的经济体系。我觉得这本书非常有趣值得一读。 在《丰饶之梦》中，我们谈论的是后稀缺社会凭借绿色能源和其他社会设定，使得个体不需要工作就能维持生活。因此，你可以从政府获取所有物质上的满足。但这引出了我们一直在讨论的问题，那就是生活的目的。所以我们想象了一种新型的货币，一种平行社会结构中的替代数字货币。这种货币不与财产、财富或物质挂钩，而是基于马斯洛的需求层次理论与心理、社会和精神需求相关联，如归属感、尊严、爱和对社区的贡献、自我实现，和达成终极的自我超越，这是所有需求中的最高层次。对我来说，这几乎像是一种宗教。 这种货币实际上将激励和动员人们去追求他们真正想要做的事情。人们通过使用这种货币，从一个非常有意识的精神层面，与许多机会进行交易，以实现自己的目标，重新教育自己并实现自我超越。老实说，我认为这是相当理想化的。我不认为这会在可预见的未来发生。当然，我将故事设定在澳大利亚的布里斯班，因为那里拥有丰富的清洁能源。但当我与来自澳大利亚的朋友交谈时，他们都不相信这个故事，因为他们都告诉我：「不，政府很糟糕。在澳大利亚不可能发生这种情况。」所以这让我觉得很有趣，外部的想象与内部的观点是如此不同。当人们生活在社会中时，他们真正能够感受到事情的真实情况。人们能够看到他人或者也许是自己所面临的所有挫折和恐惧。 因此，我认为这个故事提醒我们，解决方案可能不仅仅涉及技术，还要超越技术。它涉及到社会构建、政治体制和再分配机制。因此，问题的关键在于我们如何设计世界的运行方式。但所有这些都建立在我们的信仰、共识和价值体系之上。这些基础甚至更难受到挑战和改变，因为过去几个世纪以来，资本主义的故事已经被讲述了，所有这些挑战都以失败告终。我们没有提出任何新的、革命性的东西。 我认为这是我们所缺乏的。作为一个故事叙述者，我一直认为我们想象出了许多迷人的技术发明等等，甚至是其他物种。但为什么我们不能提出一些新的社会和政治体系的设想，从而可以真正激发人们做出改变呢？我认为我们迫切需要一些来自经济学家、社会学家和人类学家的声音。给我们一些新的东西，也许来自生物，也许来自数学，可以帮助我们摆脱旧有的困境。这就是我们需要的，新的叙事，新的隐喻，也许是新的神话。 Jim：是的，我认为这就是为什么我如此喜爱你的这本书，并向许多对人工智能感兴趣，以及对我们如何思考这些问题感兴趣的人推荐它的原因。因为从理性的角度来看，我个人非常乐观。我的意思是，我明白我们将会面临许多问题，并且不得不为这些问题找到解决方案。但我喜欢你书中带给人们的启迪性以及结尾的故事，你必须将这些想法呈现给读者，迫使他们开始思考。我感觉自己是地球上最幸运的人，因为我有机会活在这个时代，哇，我们现在正处于一个能够做许多有趣的事情且实现共同进化的时代。 当然，我们也可以走另一条路，将这些创新和强大的技术用来搞破坏。我想推荐像你和其他伟大的故事创作者一样的人，因为正是你们打开了人类的思维方式。我们一直在努力制作Netflix的节目《黑镜》，我们举办了名为《白镜》的竞赛，帮助获胜的作者推出一系列激励人心的故事，向我们展示通过科技创新和技术会实现哪些愿景。 听着，我喜欢你的书。很高兴有机会和你聊天讨论这本书。接下来你有什么计划？你现在正忙什么项目呢？ 陈楸帆：今年我获得了耶鲁大学麦克米兰中心的研究学者身份。我也在写我的下一部小说，它是我首部小说《荒潮》的续集。这部小说讲述了海洋场景下的气候变化问题，并探讨了人类/机器/自然的三角关系，如何在智能层面上使其协同工作。但是在过去的六个月里，发生了很多事情。ChatGPT的诞生实际上颠覆了我们的想象。你必须重新思考如何描述和想象人工智能的未来。这是我最近一直在努力解决的问题，因为你必须超越当前的叙事，这样我们才能认为它足够科幻或足够未来化。 我认为这很有趣，因为我们的想象力已经落后于现实。科技发展速度如此之快，每天都在进步，我们必须努力迎头赶上。当你说很幸运生活在这个变革的时代时，我完全同意。或许我可以亲眼目睹人类的终结，我想，即使我能看到那一天，我也不会感到惊讶。作为一个科幻作家，这可能会带来非常复杂的感受。首先，我想说，这可能是一个非常末日般的世界，但你可能会感到，也许在这个旧世界的废墟中，会出现一些新奇的事物，这将是令人震撼的。我迫不及待地想看到那种情景的出现。是的，我完全惊叹于此。 Jim：很棒。当然，对于末世愿景的预测。人们常开玩笑说妓女是世界上最古老的职业，我认为预测世界末日和人类终结才是世界上最古老的职业。 陈楸帆：是的。 Jim：我们确实在历史的长河中一直讨论着世界末日的来临，但到目前为止，我们并没有屈服于这种结局。在节目的最后，我们对所有的嘉宾都会问一个问题，现在挥动一根魔棒，让你成为世界的皇帝，你不能把任何人送进再教育营，也不能杀害任何人。但你可以获得一个魔法麦克风，你可以对着麦克风说两件事情，全球80亿的人都会在早晨醒来时认为这两件事是他们自己的想法，并立即开始行动。 陈楸帆：哇。 Jim：你打算植入哪两个想法？ 陈楸帆：哇，那真的很酷。我必须非常谨慎地考虑这个愿望。首先，我会说做至少一件对他人有益的事情，无论是对人类还是对其他物种。其次，反思昨天的所作所为并取得进步。 Jim：我喜欢这个。我喜欢你植入了一个循环，一个无限的循环。嗯，非常感谢你。我非常喜欢你的作品，迫不及待地想阅读你的下一部作品。 陈楸帆：非常感谢。 Comments are closed.
|