我写的关于人工智能怀疑论的[一篇早期文章](/posts/ai-skepticism-is-really-about-faith-in-Humans)的对话让我意识到我所提出的论点的根源比我想象的要早得多。不仅仅是人工智能。关于技术本身。关于工具对使用它们的人做了什么。我在那里描述的“对人类的信仰”表面上听起来像是康德式的——人们会选择参与吗？但我真正的意思是尼采首先要做的事情：出现是先决条件，而不是答案。更深层次的问题是，当你这样做时，你会变成什么样子。 技术是改善还是破坏人类状况的问题是现代思想中最古老的悬而未决的争论之一。人工智能只是我们重演它的最新领域。塑造这一论点的启蒙思想家都说对了一部分，但忽略了最重要的东西。 ## 卢梭：堕落 1750 年，让-雅克·卢梭 (Jean-Jacques Rousseau) 凭借一篇论文获得第戎学院奖，该论文认为科学和艺术的复兴并没有净化道德，反而降低了道德。五年后，在他的[*关于不平等的论述*](https://en.wikisource.org/wiki/Discourse_on_the_Origin_of_Inequality_Among_Men/Part_I)中，他走得更远。他将社会弊病的根源追溯到发明本身。冶金和农业创造了财产。财产造成了不平等。不平等创造了将一切锁定的社会契约。 卢梭的立场很明确：自然状态下的人类是自由的、富有同情心的、完整的。由技术驱动的文明使他们远离了整体性。我们制造的工具越多，我们的跌落就越深。 重申一下，这是人工智能怀疑论者的立场。每一个新工具都让我们远离真实的人类体验。人工智能将削弱我们批判性思考、为自己记忆、在没有帮助的情况下创造的能力。明智的反应是克制。限制暴露。保护我们所拥有的。保持接近自然状态。 ## 孔多塞：上升 相反的立场来自孔多塞侯爵。孔多塞于 1794 年写作，躲避即将处决他的当局，他创作了他的[*人类思想进步的历史图景草图*](https://archive.org/details/bim_eighteenth- century_esquisse-dun-tableau-h_caritat-marie-jean-anto_1795)。他认为人类通过理性、科学和教育取得的进步是无限的。每一代人都建立在上一代人的发现之上。问题是真实存在的，但也是可以解决的，因为人类的聪明才智随着时间的推移而不断增强。 卢梭看到了腐败，孔多塞则看到了积累。印刷机并没有削弱思想。它传播了它。医学并没有让我们变得更弱。它给了我们祖先从未有过的几十年的寿命。工具不是问题。人类不断改进它们的能力。 这是[人工智能构建者的立场](/posts/ai-skepticism-is-really-about-faith-in-Humans)，不可避免地要重申。从事人工智能工作的人们清楚地看到了它的失败，但他们也亲眼目睹了工作中的改进速度。他们相信人类可以让这些工具为我们服务，因为这就是人类一直在做的事情。 ## 霍布斯：皮带 在卢梭的悲观主义和孔多塞的乐观主义之间存在着一种看似进步但实际上并非如此的立场。霍布斯看上去像是孔多塞的盟友，但其实不然。在 [*Leviathan*](https://standardebooks.org/ebooks/thomas-hobbes/leviathan/text/chapter-13) (1651) 中，霍布斯认为没有组织社会的生活是“孤独、贫穷、肮脏、野蛮和短暂的”。我们需要文明，不是因为人类伟大，而是因为没有人束缚我们就很可怕。 霍布斯代表了另一种人工智能怀疑论：不是“远离技术”，而是“对其进行严格监管，因为人类不能信任强大的工具”。它与怀疑论者一样对人性持悲观态度，但将其转化为制度控制而不是个人撤退。 这是大多数人工智能监管呼吁背后的立场。这不是卢梭式的克制。这是霍布斯约束。有人要求你退出该工具。另一个要求国家介入。 ## 康德：集体选择 康德比他们中的任何人都更接近正确地描述这个问题。 1784年，他写了一篇短文，名为“什么是启蒙运动？”（https://www.columbia.edu/acis/ets/CCREAD/etscc/kant.html），他的回答是：这是人类从自我强加的不成熟中脱颖而出。有勇气在没有他人指导的情况下运用自己的理解。 康德的观点是，问题不在于工具是好还是坏。问题在于人们是否选择用自己的判断来与他们打交道，或者他们是否服从：权威、恐惧、假设别人会解决问题。 用康德的术语来说，人工智能怀疑论者选择了不成熟。并不是因为这些担忧是错误的。对偏见、环境成本、认知依赖和军事滥用的担忧是合理的。但放弃这项技术，认为这是别人的问题，就是不参与影响结果的决定。 康德说得很多对。但他的框架是有上限的。他将这个问题视为一个集体问题：人类会选择成熟吗？人们会出现吗？这很重要。这也是不够的。 ## 尼采：你会成为什么 突破这个天花板的思想家是尼采。他通过提出一个其他人都没有问过的问题来实现这一点。 卢梭问道：工具是否腐蚀了我们？孔多塞问道：这个工具能让我们进步吗？霍布斯问：工具可以控制吗？康德问：我们会选择参与吗？尼采问道：与工具的相遇揭示了你是谁以及你将成为谁？ 在[*查拉图斯特拉如是说*](https://www.gutenberg.org/files/1998/1998-h/1998-h.htm)中，尼采在*最后的人*和*超人*之间划了一条线。最后一个人很舒服。他找到了自己的小幸福。他眨了眨眼。 “我们发明了幸福，”最后的人说。他们回避困难，因为困难令人不愉快。他们避免风险，因为风险威胁到舒适。他们对任何事情都有看法，但对任何事情都没有信念。 超人则相反。不是超级英雄。一个致力于不断自我克服的人。把困难的事情当作材料的人。他们不会将障碍视为撤退的理由，而是将其视为建立更强大自我的基础。 尼采在审视人工智能辩论时并没有看清任何一方。 怀疑论者放弃人工智能是因为它有缺陷，因为它可能会侵蚀他们所珍视的东西，因为有人可能会滥用它：尼采会承认他们是最后的人。他们的观察并没有错。但选择舒适而不是遭遇。选择批评的安全性而不是创造的脆弱性。他们已经找到了自己的小幸福，他们希望新工具能够让它不受干扰。 但尼采也不会站在天真的乐观主义者一边。那些不加批判地采用人工智能、外包思维、让工具完成他们应该自己做的创造性工作的人：他们也是最后的人。他们用一种形式的舒适换取了另一种形式的舒适。他们没有回避技术，而是让它承载着他们。不管怎样，自我仍然很小。 尼采的立场比这两者都更难。它说：技术就在这里。它将改变思考、创造、工作、做人的意义。这种变化不是要逃避的威胁，也不是被动接受的礼物。它是物质的。重要的是你如何利用它。 自我克服意味着在迫使你变得更好的地方使用人工智能。一个作家如果使用人工智能更快地进行研究，然后比以前更深入、更诚实地写作，那么他就会克服困难。一位教师使用人工智能自动评分，然后将空闲时间花在需要真人参与的教学部分上，这就是克服的方法。使用人工智能生成样板文件，然后专注于需要判断的架构和设计的程序员正在克服。 避免人工智能来保留某项技能的人是在保留，而不是克服。向人工智能投降并停止发展技能的人是在衰退，而不是在克服。尼采会说两条路都通向同一个地方：一个更小的自我。 ## 权力意志：这里最重要的是什么 尼采的权力意志在这里最相关的维度不是对他人的统治。它是成长、创造、将形式强加于混乱的动力。正是这种本能促使艺术家绘画、创始人进行建设、研究人员探索未知。权力意志是自我导向的。它想要从你那里获得更多，而不是为你提供更多。 技术检验了这一点。历史上的每一个主要工具都问过同样的问题：你会用它来变得更多，还是用它来变得更少？印刷品可以让你成为小册子的读者或被动消费者。汽车可以扩大你的世界，也可以将你的世界缩小到通勤的范围。互联网可以将你与世界各地的思想联系起来，或者将你封入算法泡沫中。 人工智能是这项测试迄今为止最激烈的版本。它可以为你思考。它可以为你写。它可以创建图像、创作音乐、生成策略。问题不在于该技术是否有效。问题是你是否将它用作实现自己的创造性意愿的工具，或者作为它的替代品。 ## 没有怜悯，没有怨恨 尼采镜头中还有一个重要的部分在这里。尼采鄙视他所谓的[*怨恨*](https://en.wikisource.org/wiki/The_Genealogy_of_Morals/First_Essay)：贬低你无法达到的东西的冲动。 [伊索告诉版本](https://en.wikipedia.org/wiki/The_Fox_and_the_Grapes)有一只狐狸和酸葡萄。尼采看到它贯穿整个文明。 许多人工智能怀疑论都带有这种味道。不是全部。有些是有原则、有根据的。但许多批评的基调是：“这项技术威胁到了我所拥有的东西，所以这项技术一定很糟糕。”担心人工智能会让散文贬值的作家。害怕人工智能的艺术家会贬低插画的价值。担心人工智能会贬低专业知识的知识工作者。他们的批评常常表现为道德担忧。但在本质上，这往往是用价值观语言来捍卫自己的立场。 尼采会说：如果人工智能可以做你所做的事情，那就不是反对人工智能的理由。这是一个信号，表明您需要更深入。找到你的工作中任何工具都无法复制的部分。如果该层不存在，则问题不在于工具。问题是你在达到目标之前就停止了发展。 这不是残忍。这是诚实。尼采重视诚实胜过舒适。 ##同一个问题的永恒重复 尼采的永恒轮回思想实验提出这样的问题：如果你必须再次、同样地、永远地过你的生活，你会肯定吗？你会对每一个选择、每一次遭遇、每一个困难都说“是”吗？ 应用于技术，问题就变成了：如果人工智能是新的、不确定的、充满风险和潜力的这个时刻永远重复出现，你会选择参与还是撤退？你会选择使用改变你脚下地面的工具的困难，还是会选择拒绝它的舒适？ 每一项主要技术都提出了同样的问题。印刷机。铁路。电话。收音机。电视。互联网。社交媒体。事实证明，每一个担忧都是部分正确的。打印后记忆确实发生了变化。社区确实围绕铁路进行了重组。社交媒体确实侵蚀了共同的现实。这些工具总是带来实际成本。 但那些远离的人从未解决成本问题。这些问题是由参与其中的人们缓慢而不完美地解决的。参与其中的人也因这次遭遇而改变。这就是重点。他们不仅仅修复了技术。他们在与它合作的过程中变成了不同的人。 卢梭打赌人类的能力。孔多塞对此打赌。霍布斯想要限制它。康德说这是一个选择。 尼采会说这个问题本身就是错误的。不存在抽象的“人类能力”。只有你接下来要做的事情。技术就在这里。它会考验你。你的回应是唯一重要的答案。