Разговор о [более раннем эссе](/posts/ai-skepticism-is-rely-about-faith-in-human), которое я написал о скептицизме ИИ, заставил меня осознать, что аргумент, который я выдвигаю, имеет корни, уходящие гораздо дальше, чем я предполагал. Не только об ИИ. О самой технологии. О том, что инструменты делают с людьми, которые их используют. «Вера в людей», которую я там описал, на первый взгляд звучит по-кантиански — захотят ли люди участвовать? Но на самом деле я имел в виду то, что Ницше первым понял: явиться — это необходимое условие, а не ответ. Более глубокий вопрос заключается в том, кем вы становитесь, когда делаете это.

Вопрос о том, улучшают или портят технологии условия жизни человека, является одним из старейших неразрешенных споров в современной мысли. ИИ — это всего лишь последняя арена, на которой мы его повторяем. И мыслители эпохи Просвещения, которые сформировали этот аргумент, частично поняли его правильно, но упустили самое важное.

##Руссо: грехопадение

В 1750 году Жан-Жак Руссо получил премию Дижонской академии за [эссе](https://jjrousseau.net/english-lecture/discourse-on-the-sciences-and-the-arts/), в котором утверждалось, что восстановление наук и искусств не очистило мораль, а унизило ее. Пять лет спустя в своем [*Рассуждении о неравенстве*](https://en.wikisource.org/wiki/Discourse_on_the_Origin_of_Inequality_Among_Men/Part_I) он пошел еще дальше. Он объяснил происхождение социальных бед самим изобретением. Металлургия и сельское хозяйство создали собственность. Собственность создала неравенство. Неравенство создало социальные контракты, которые все это зафиксировали.

Позиция Руссо была ясна: люди в своем естественном состоянии свободны, сострадательны и целостны. Цивилизация, движимая технологиями, оторвала их от этой целостности. Чем больше инструментов мы создавали, тем дальше мы падали.

Это еще раз сформулированная позиция скептиков ИИ. Каждый новый инструмент отдаляет нас от подлинного человеческого опыта. ИИ подорвет нашу способность критически мыслить, запоминать самостоятельно, творить без посторонней помощи. Мудрый ответ – сдержанность. Ограничьте воздействие. Берегите то, что имеем. Оставайтесь ближе к естественному состоянию.

## Кондорсе: восхождение

Противоположную позицию высказал маркиз де Кондорсе. В 1794 году, скрываясь от властей, которые вскоре его казнили, Кондорсе составил свой [*Очерк исторической картины прогресса человеческого разума*](https://archive.org/details/bim_eighteenth- Century_esquisse-dun-tableau-h_caritat-marie-jean-anto_1795). Он утверждал, что человеческий прогресс посредством разума, науки и образования безграничен. Каждое поколение опирается на открытия предыдущего. Проблемы реальны, но разрешимы, потому что человеческая изобретательность со временем увеличивается.

Там, где Руссо видел коррупцию, Кондорсе видел накопление. Печатный станок не ослабил мысль. Это распространило это. Медицина не сделала нас слабее. Это дало нам десятилетия жизни, которой не было у наших предков. Инструменты не были проблемой. Человеческая способность совершенствовать их была постоянной.

Это [позиция создателей искусственного интеллекта](/posts/ai-skepticism-is-rely-о-вере-в-людях), вновь сформулированная с неизбежностью. Люди, работающие с ИИ, ясно видят его недостатки, но они также своими руками наблюдают за скоростью улучшения в работе. Они верят, что люди смогут заставить эти инструменты служить нам, потому что люди всегда так поступали.

## Гоббс: поводок

Между пессимизмом Руссо и оптимизмом Кондорсе находится позиция, которая выглядит как прогресс, но таковой не является. Гоббс выглядит союзником Кондорсе, но это не так. В [*Левиафане*](https://standardebooks.org/ebooks/thomas-hobbes/leviathan/text/chapter-13) (1651) Гоббс утверждал, что жизнь без организованного общества была «одинокой, бедной, отвратительной, жестокой и короткой». Нам нужна цивилизация не потому, что люди велики, а потому, что мы ужасны, если кто-то держит поводок.

Гоббс представляет собой другой вид скептицизма в отношении ИИ: не «держаться в стороне от технологий», а «жестко регулировать их, потому что людям нельзя доверять мощные инструменты». Он разделяет пессимизм скептиков по поводу человеческой природы, но направляет его на институциональный контроль, а не на личное отступление.

Именно эта позиция стоит за большинством призывов к регулированию ИИ. Это не руссоанская сдержанность. Это ограничение Гоббса. Один просит вас отойти от инструмента. Другой просит государство вмешаться.

## Кант: коллективный выбор

Кант подошел ближе, чем кто-либо из них, к правильной формулировке проблемы. В 1784 году он написал короткое эссе под названием ["Что такое Просвещение?"](https://www.columbia.edu/acis/ets/CCREAD/etscc/kant.html). Его ответ: это выход человечества из добровольной незрелости. Смелость использовать собственное понимание без указания другого.

Точка зрения Канта заключалась в том, что вопрос не в том, хороши или плохи эти инструменты. Вопрос в том, решат ли люди взаимодействовать с ними, используя собственное суждение, или же они подчинятся авторитету, страху, предположению, что кто-то другой разберется во всем этом.

С точки зрения Канта, скептик ИИ выбирает незрелость. Не потому, что опасения ошибочны. Обеспокоенность по поводу предвзятости, экологических издержек, когнитивной зависимости и неправильного использования в военных целях вполне обоснована. Но отступить от технологии, решив, что это чужая проблема, — это решение не участвовать в формировании результата.

Кант во многом прав. Но у его каркаса есть потолок. Он формулирует вопрос как коллективный: выберет ли человечество зрелость? Появятся ли люди? Это важно. Этого тоже недостаточно.

## Ницше: кем ты станешь

Мыслитель, преодолевший этот потолок, — Ницше. И он достигает этого, задавая вопрос, который никто из остальных не задавал.

Руссо спрашивает: развращает ли нас инструмент? Кондорсе спрашивает: продвигает ли нас этот инструмент? Гоббс спрашивает: можно ли управлять инструментом? Кант спрашивает: выберем ли мы участие? Ницше спрашивает: что встреча с инструментом говорит о том, кто вы есть и кем становитесь?

В [*Так говорил Заратустра*](https://www.gutenberg.org/files/1998/1998-h/1998-h.htm) Ницше проводит линию между *последним человеком* и *сверхчеловеком*. Последнему мужчине комфортно. Он нашел свое маленькое счастье. Он моргает. «Мы изобрели счастье», — говорят последние мужчины. Они избегают трудностей, потому что трудности неприятны. Они избегают риска, потому что риск угрожает комфорту. У них есть мнения обо всем и убеждения ни о чем.

Сверхчеловек – его противоположность. Не супергерой. Человек, занимающийся постоянным самопреодолением. Тот, кто берет сложное и использует его как материал. Кто относится к препятствиям не как к поводу для отступления, а как к субстанции, из которой строится более сильное «я».

Ницше смотрел на дебаты об ИИ и не видел ясно ни одну из сторон.

Скептики, которые отступают от ИИ, потому что он несовершенен, потому что он может разрушить то, что они ценят, потому что кто-то может им злоупотребить: Ницше признал бы их последними людьми. Не ошиблись в своих наблюдениях. Но предпочитаю комфорт встрече. Выбор безопасности критики над уязвимостью творчества. Они нашли свое маленькое счастье и хотят, чтобы новый инструмент оставил его в покое.

Но Ницше также не встал на сторону наивных оптимистов. Люди, которые принимают ИИ некритично, передают свое мышление на аутсорсинг, позволяют инструменту выполнять творческую работу, которую они должны делать сами: они также являются последними людьми. Они поменяли одну форму комфорта на другую. Вместо того, чтобы избегать технологий, они позволяют им нести их. В любом случае, личность остается маленькой.

Позиция Ницше сложнее любой из этих позиций. Там написано: технология здесь. Это изменит то, что значит думать, творить, работать и быть человеком. Это изменение не является угрозой, от которой нужно бежать, и не подарком, который можно пассивно принять. Это материально. Важно то, что вы об этом думаете.

Самопреодоление означает использование ИИ там, где он заставляет вас становиться лучше. Писатель, который использует ИИ для более быстрого исследования, а затем пишет с большей глубиной и честностью, чем раньше, побеждает. Учитель, который использует ИИ для автоматизации выставления оценок, а затем тратит освободившееся время на те части преподавания, которые требуют реального человеческого присутствия, побеждает. Программист, который использует ИИ для создания шаблона, а затем сосредотачивается на архитектуре и дизайне, требующих суждения, побеждает.

Человек, который избегает ИИ, чтобы сохранить навык, сохраняет, а не преодолевает. Человек, который сдается ИИ и перестает развивать навык, деградирует, а не преодолевает. Ницше сказал бы, что оба пути ведут к одному и тому же месту: к меньшему «я».

## Воля к власти: что здесь важно

Наиболее важным аспектом воли Ницше к власти здесь является не доминирование над другими. Это стремление расти, создавать, придавать форму хаосу. Именно инстинкт заставляет художника рисовать, основателя строить, исследователя идти в неизведанное. Воля к власти направлена ​​​​на себя. Он хочет большего от вас, а не для вас.

Технологические испытания это сделают. Каждый крупный инструмент в истории задавал один и тот же вопрос: будете ли вы использовать его, чтобы стать больше, или вы будете использовать его, чтобы стать меньше? Печать может сделать вас читателем или пассивным потребителем брошюр. Автомобиль может расширить ваш мир или сжать его до поездок на работу. Интернет может связать вас с разумами по всей планете или запечатать вас в алгоритмическом пузыре.

ИИ — это самая напряженная версия этого теста. Он может думать за вас. Оно может писать за вас. Он может создавать изображения, сочинять музыку, генерировать стратегии. Вопрос не в том, работает ли технология. Вопрос в том, используете ли вы его как инструмент своей творческой воли или как замену ему.

## Ни жалости, ни обиды

Здесь важен еще один аспект ницшеанской линзы. Ницше презирал то, что он называл [*ressentiment*](https://en.wikisource.org/wiki/The_Genealogy_of_Morals/First_Essay): импульс обесценивать то, чего вы не можете достичь. [Эзоп рассказал версию](https://en.wikipedia.org/wiki/The_Fox_and_the_Grapes) с лисой и кислым виноградом. Ницше видел, как оно пронизывает целые цивилизации.

Многие скептицисты по поводу ИИ имеют именно этот оттенок. Не все. Некоторые принципиальны и обоснованы. Но подтекст большей части критики таков: «Эта технология угрожает чему-то, что у меня есть, поэтому технология, должно быть, плохая». Писатель, который боится ИИ, обесценит прозу. Художник, который боится ИИ, обесценит иллюстрацию. Работник умственного труда, который боится ИИ, обесценит опыт. Их критика часто представляет собой этическую озабоченность. Но под этим часто кроется защита своей позиции, облаченная в язык ценностей.

Ницше сказал бы: если ИИ может делать то, что делаете вы, это не аргумент против ИИ. Это сигнал о том, что вам нужно идти глубже. Найдите уровень своей работы, который не сможет воспроизвести ни один инструмент. Если этого слоя не существует, проблема не в инструменте. Проблема в том, что вы перестали развиваться раньше, чем достигли этого.

Это не жестокость. Это честность. А Ницше ценил честность выше комфорта.

## Вечное повторение одного и того же вопроса

Мысленный эксперимент Ницше о вечном возвращении спрашивает: если бы вам пришлось прожить свою жизнь заново, идентично, вечно, подтвердили бы вы это? Скажете ли вы «да» каждому выбору, каждой встрече, каждой трудности?

Применительно к технологиям возникает вопрос: если бы именно этот момент, когда ИИ является новым, неопределенным, полным риска и потенциала, повторялся бы вечно, вы бы выбрали взаимодействие или отступление? Вы бы выбрали сложность работы с инструментом, меняющим почву под ногами, или выбрали бы комфорт, отказавшись от него?

Каждая крупная технология вызывает один и тот же вопрос. Печатный станок. Железная дорога. Телефон. Радио. Телевидение. Интернет. Социальные сети. Каждое из опасений оказалось частично верным. Память изменилась после печати. Сообщества действительно реорганизовались вокруг железной дороги. Социальные сети действительно разрушили общую реальность. Инструменты всегда приносили реальные затраты.

Но расходы так и не были решены людьми, которые остались в стороне. Они были решены, медленно и несовершенно, людьми, которые участвовали в проекте. И люди, которые участвовали в этом, изменились. В этом вся суть. Они не просто исправили технологию. В процессе работы с ним они стали другими людьми.

Руссо сделал ставку на человеческие способности. Кондорсе сделал ставку на это. Гоббс хотел ограничить его. Кант сказал, что это был выбор.

Ницше сказал бы, что сам вопрос неверен. В абстрактном смысле не существует «человеческих способностей». Есть только то, что вы сделаете дальше. Технология здесь. Это испытает вас. Единственное, что имеет значение, — то, кем вы станете в ответ.