Una conversa sobre [un assaig anterior](/posts/ai-skepticism-is-really-about-faith-in-humans) que vaig escriure sobre l'escepticisme de la IA em va fer adonar que l'argument que estava fent té arrels que van molt més enrere del que m'havia plantejat. No només sobre la IA. Sobre la tecnologia en si. Sobre què fan les eines a les persones que les utilitzen. La "fe en els humans" que vaig descriure allà sona kantiana a la superfície: la gent optarà per participar? Però el que realment volia dir és que Nietzsche va arribar primer: presentar-se és el requisit previ, no la resposta. La pregunta més profunda és en què et converteixes quan ho fas.

La qüestió de si la tecnologia millora o corromp la condició humana és un dels debats no resolts més antics del pensament modern. La intel·ligència artificial és només l'últim escenari on el tornem a jugar. I els pensadors de la Il·lustració que van donar forma a aquest argument van encertar una part d'ell mentre van perdre el que més importa.

## Rousseau: la caiguda

El 1750, Jean-Jacques Rousseau va guanyar un premi de l'Acadèmia de Dijon per un [assaig](https://jjrousseau.net/english-lecture/discourse-on-the-sciences-and-the-arts/) argumentant que la restauració de les ciències i les arts no havia purificat la moral sinó que les havia degradat. Cinc anys més tard, en el seu [*Discurs sobre la desigualtat*](https://en.wikisource.org/wiki/Discourse_on_the_Origin_of_Inequality_Among_Men/Part_I), va anar més enllà. Va rastrejar l'origen dels mals socials fins a la mateixa invenció. La metal·lúrgia i l'agricultura van crear propietat. La propietat va crear desigualtat. La desigualtat va crear els contractes socials que ho tancaven tot.

La posició de Rousseau era clara: els humans en el seu estat natural eren lliures, compassius i íntegres. La civilització, impulsada per la tecnologia, els va allunyar d'aquesta totalitat. Com més eines vam construir, més lluny vam caure.

Aquesta és la posició de l'escèptic de l'IA, reiterada. Cada nova eina ens allunya de l'experiència humana autèntica. La IA erosionarà la nostra capacitat de pensar críticament, recordar-ho per nosaltres mateixos, crear sense ajuda. La resposta sàvia és la moderació. Limiteu l'exposició. Preservem el que tenim. Mantenir-se a prop de l'estat natural.

## Condorcet: l'ascens

La posició contrària venia del marquès de Condorcet. Escrivint l'any 1794, amagant-se de les autoritats que aviat l'executarien, Condorcet va compondre el seu [*Sketch for a Historical Picture of the Progress of the Human Mind*](https://archive.org/details/bim_eighteenth-century_esquisse-dun-tableau-h_caritat-marie-jean-anto_1795). Va argumentar que el progrés humà a través de la raó, la ciència i l'educació era il·limitat. Cada generació es basa en els descobriments de l'última. Els problemes són reals però solucionables perquè l'enginy humà es composa amb el temps.

On Rousseau va veure corrupció, Condorcet va veure acumulació. La impremta no va debilitar el pensament. Ho va difondre. La medicina no ens va fer més febles. Ens va donar dècades de vida que els nostres avantpassats mai van tenir. Les eines no eren el problema. La capacitat humana per millorar-los era la constant.

Aquesta és la [posició del creador de l'IA](/posts/ai-skepticism-is-really-about-faith-in-humans), reiterada amb inevitabilitat. Les persones que treballen amb IA veuen clarament els seus errors, però també observen el ritme de millora amb les seves pròpies mans en el treball. Confien que els humans poden fer que aquestes eines ens serveixin perquè això és el que sempre hem fet els humans.

## Hobbes: la corretja

Entre el pessimisme de Rousseau i l'optimisme de Condorcet hi ha una posició que sembla progrés però no ho és. Hobbes sembla l'aliat de Condorcet però no ho és. A [*Leviathan*](https://standardebooks.org/ebooks/thomas-hobbes/leviathan/text/chapter-13) (1651), Hobbes argumentava que la vida sense societat organitzada era "solitària, pobre, desagradable, brutal i curta". Necessitem civilització no perquè els humans siguin grans, sinó perquè som terribles sense que algú tingui la corretja.

Hobbes representa un tipus diferent d'escepticisme en IA: no "allunyar-se de la tecnologia", sinó "regular-la fortament perquè no es pot confiar en els humans amb eines potents". Comparteix el pessimisme de l'escèptic sobre la naturalesa humana, però la canalitza cap al control institucional en lloc de la retirada personal.

Aquesta és la posició darrere de la majoria de les demandes de regulació de la IA. No és una moderació rousseauiana. És una restricció hobbesiana. Un us demana que feu un pas enrere de l'eina. L'altre demana a l'estat que intervenga.

## Kant: l'elecció col·lectiva

Kant es va acostar més que cap d'ells a plantejar el problema correctament. El 1784 va escriure un breu assaig anomenat ["Què és la Il·lustració?"](https://www.columbia.edu/acis/ets/CCREAD/etscc/kant.html) La seva resposta: és l'emergència de la humanitat de la immaduresa autoimposada. El coratge d'utilitzar el propi enteniment sense la direcció d'un altre.

L'argument de Kant era que la qüestió no és si les eines són bones o dolentes. És si la gent decideix relacionar-se amb ells utilitzant el seu propi judici o si es defereix: a l'autoritat, a la por, a la suposició que algú altre ho descobrirà.

En termes kantians, l'escèptic de la IA tria la immaduresa. No perquè les preocupacions siguin errònies. Les preocupacions sobre el biaix, el cost ambiental, la dependència cognitiva i el mal ús militar són legítimes. Però retirar-se de la tecnologia, decidir que és un problema d'una altra persona, és una decisió de no participar en la configuració del resultat.

Kant encerta molt. Però el seu enquadrament té un sostre. Enquadra la pregunta com a col·lectiva: triarà la humanitat la maduresa? La gent apareixerà? Això és important. Tampoc n'hi ha prou.

## Nietzsche: el que et converteixes

El pensador que supera aquest sostre és Nietzsche. I hi arriba fent una pregunta que cap dels altres va fer.

Rousseau pregunta: ens corromp l'eina? Condorcet es pregunta: ens avança l'eina? Hobbes pregunta: es pot controlar l'eina? Kant pregunta: optarem per participar? Nietzsche es pregunta: què revela la trobada amb l'eina sobre qui ets i en qui t'estàs convertint?

A [*Thus Spoke Zarathustra*](https://www.gutenberg.org/files/1998/1998-h/1998-h.htm), Nietzsche traça una línia entre l'*últim home* i el *overman*. L'últim home està còmode. Ha trobat la seva petita felicitat. Parpelleja. "Hem inventat la felicitat", diuen els últims homes. Eviten la dificultat perquè la dificultat és desagradable. Eviten el risc perquè el risc amenaça la comoditat. Tenen opinions sobre tot i conviccions sobre res.

El superhome és el contrari. No un superheroi. Persona que es dedica a la superació perpètua de si mateix. Algú que agafa allò que és difícil i l'utilitza com a material. Qui tracta els obstacles no com a raons per retirar-se, sinó com la substància a partir de la qual es construeix un jo més fort.

Nietzsche miraria el debat sobre l'IA i no veuria clarament cap dels dos bàndols.

Els escèptics que es retiren de la IA perquè és defectuosa, perquè podria erosionar alguna cosa que valoren, perquè algú podria fer-ne un mal ús: Nietzsche els reconeixeria com els últims homes. No s'equivoca en les seves observacions. Però escollint la comoditat abans que la trobada. Triar la seguretat de la crítica per sobre de la vulnerabilitat de la creació. Han trobat la seva petita felicitat i volen que la nova eina la deixi tranquil.

Però Nietzsche tampoc es posaria del costat dels optimistes ingenus. Les persones que adopten la IA sense crítiques, que externalitzen el seu pensament, que deixen que l'eina faci el treball creatiu que haurien de fer ells mateixos: també són els últims homes. Han canviat una forma de confort per una altra. En lloc d'evitar la tecnologia, la van deixar portar. Sigui com sigui, el jo es queda petit.

La posició nietzscheana és més difícil que qualsevol d'aquestes. Diu: la tecnologia és aquí. Canviarà el que significa pensar, crear, treballar, ser humà. Aquest canvi no és una amenaça per fugir ni un regal per rebre passivament. És material. El que importa és què en fas.

L'autosuperació significa utilitzar la IA als llocs on t'obliga a millorar. Un escriptor que utilitza la IA per investigar més ràpidament i després escriu amb més profunditat i honestedat que abans, està superant. Un professor que utilitza la intel·ligència artificial per automatitzar les qualificacions i després dedica el temps lliure a les parts de l'ensenyament que exigeixen presència humana real, està superant. Un programador que utilitza la intel·ligència artificial per generar una sèrie de plats i després se centra en l'arquitectura i el disseny que requereixen judici, està superant.

La persona que evita la IA per preservar una habilitat està preservant, no superant. La persona que es lliura a la IA i deixa de desenvolupar l'habilitat està disminuint, no superant. Nietzsche diria que tots dos camins porten al mateix lloc: un jo més petit.

## La voluntat de poder: el que importa aquí

La dimensió més rellevant de la voluntat de poder de Nietzsche aquí no és la dominació sobre els altres. És l'impuls per créixer, per crear, per imposar forma al caos. És l'instint que fa que un artista pinti, un fundador construeixi, un investigador empeny cap al desconegut. La voluntat de poder és autodirigida. Vol més de tu, no més per a tu.

La tecnologia prova aquesta voluntat. Totes les eines principals de la història s'han fet la mateixa pregunta: utilitzareu això per ser més o l'utilitzareu per ser menys? La impressió et pot convertir en un lector o en un consumidor passiu de pamflets. El cotxe podria ampliar el vostre món o reduir-lo a un desplaçament diari. Internet podria connectar-vos a ments de tot el planeta o segellar-vos en una bombolla algorítmica.

La IA és la versió més intensa d'aquesta prova fins ara. Pot pensar per tu. Pot escriure per a tu. Pot crear imatges, compondre música, generar estratègies. La qüestió no és si la tecnologia funciona. La qüestió és si l'utilitzeu com a eina per a la vostra pròpia voluntat creativa o com a substitut d'ella.

## Sense llàstima, sense ressentiment

Hi ha una peça més de la lent nietzscheana que importa aquí. Nietzsche menyspreava el que va anomenar [*resentiment*](https://en.wikisource.org/wiki/The_Genealogy_of_Morals/First_Essay): l'impuls de devaluar allò que no s'arriba. [Ésop va dir la versió](https://en.wikipedia.org/wiki/The_Fox_and_the_Grapes) amb una guineu i raïm agre. Nietzsche ho va veure travessant civilitzacions senceres.

Molt d'escepticisme de la IA té aquest sabor. No tot. Alguns tenen principis i fonamentats. Però el fons de bona part de les crítiques és: "aquesta tecnologia amenaça alguna cosa que tinc, així que la tecnologia ha de ser dolenta". L'escriptor que tem la IA devaluarà la prosa. L'artista que tem la IA devaluarà la il·lustració. El treballador del coneixement que tem la IA devaluarà l'experiència. La seva crítica sovint es presenta com una preocupació ètica. Però per sota, sovint és una defensa de posició, vestida amb el llenguatge dels valors.

Nietzsche diria: si la IA pot fer el que fas tu, això no és un argument contra la IA. És un senyal que cal aprofundir. Trobeu la capa del vostre treball que cap eina pot replicar. Si aquesta capa no existeix, el problema no és l'eina. El problema és que vas deixar de desenvolupar-te abans d'arribar-hi.

Això no és crueltat. És honestedat. I Nietzsche valorava l'honestedat per sobre de la comoditat.

## L'eterna recurrència de la mateixa pregunta

L'experiment mental de la recurrència eterna de Nietzsche es pregunta: si haguéssiu de tornar a viure la vostra vida, de manera idèntica, per sempre, ho afirmaries? Diries que sí a cada elecció, cada trobada, cada dificultat?

Aplicada a la tecnologia, la pregunta és: si aquest moment exacte, on la IA és nova i incerta i plena de risc i potencial, es repeteix per sempre, triaríeu el compromís o la retirada? Triaríeu la dificultat de treballar amb una eina que canvia el terra sota els vostres peus, o triaríeu la comoditat de rebutjar-la?

Cada tecnologia important ha forçat aquesta mateixa pregunta. La impremta. El ferrocarril. El telèfon. Ràdio. Televisió. Internet. Mitjans socials. Cada preocupació va resultar ser parcialment encertada. La memòria va canviar després de la impressió. Les comunitats es van reorganitzar al voltant del ferrocarril. Les xarxes socials van erosionar la realitat compartida. Les eines sempre comportaven costos reals.

Però els costos mai van ser resolts per la gent que es va mantenir allunyada. Es van resoldre, lenta i imperfecta, per la gent que es va comprometre. I la gent que es va comprometre va ser canviada per la trobada. Aquest és el punt. No només van arreglar la tecnologia. Es van convertir en persones diferents en el procés de treballar-hi.

Rousseau va apostar contra la capacitat humana. Condorcet hi va apostar. Hobbes volia limitar-ho. Kant va dir que era una elecció.

Nietzsche diria que la pregunta en si és incorrecta. No hi ha cap "capacitat humana" en abstracte. Només hi ha el que fas després. La tecnologia és aquí. Et posarà a prova. El que et converteixes en resposta és l'única resposta que importa.