Una conversación sobre [un ensayo anterior](/posts/ai-skepticism-is-really-about-faith-in-humans) que escribí sobre el escepticismo de la IA me hizo darme cuenta de que el argumento que estaba planteando tiene raíces que se remontan a mucho más atrás de lo que había considerado. No sólo sobre IA. Sobre la tecnología en sí. Sobre lo que las herramientas hacen a las personas que las usan. La "fe en los humanos" que describí allí suena kantiana en la superficie: ¿la gente decidirá participar? Pero lo que realmente quise decir es algo a lo que Nietzsche llegó primero: presentarse es el requisito previo, no la respuesta. La pregunta más profunda es en qué te conviertes cuando lo haces. La cuestión de si la tecnología mejora o corrompe la condición humana es uno de los debates sin resolver más antiguos del pensamiento moderno. La IA es solo el último escenario en el que la estamos reproduciendo. Y todos los pensadores de la Ilustración que dieron forma a este argumento acertaron en parte, pero omitieron lo más importante. ## Rousseau: la caída En 1750, Jean-Jacques Rousseau ganó un premio de la Academia de Dijon por un [ensayo](https://jjrousseau.net/english-lecture/discourse-on-the-sciences-and-the-arts/) argumentando que la restauración de las ciencias y las artes no había purificado la moral sino que las había degradado. Cinco años después, en su [*Discurso sobre la desigualdad*](https://en.wikisource.org/wiki/Discourse_on_the_Origin_of_Inequality_Among_Men/Part_I), fue más allá. Rastreó el origen de los males sociales hasta la invención misma. La metalurgia y la agricultura crearon la propiedad. La propiedad creó desigualdad. La desigualdad creó los contratos sociales que lo encerraron todo. La posición de Rousseau era clara: los humanos en su estado natural eran libres, compasivos y completos. La civilización, impulsada por la tecnología, los alejó de esa totalidad. Cuantas más herramientas construimos, más caemos. Ésta es la posición de los escépticos de la IA, repito. Cada nueva herramienta nos aleja de la auténtica experiencia humana. La IA erosionará nuestra capacidad de pensar críticamente, recordar por nosotros mismos y crear sin ayuda. La respuesta sabia es la moderación. Limite la exposición. Preservar lo que tenemos. Manténgase cerca del estado natural. ## Condorcet: el ascenso La postura opuesta la provino del marqués de Condorcet. Escribiendo en 1794, ocultándose de las autoridades que pronto lo ejecutarían, Condorcet compuso su [*Bosquejo para un cuadro histórico del progreso de la mente humana*](https://archive.org/details/bim_eighteenth-century_esquisse-dun-tableau-h_caritat-marie-jean-anto_1795). Sostuvo que el progreso humano a través de la razón, la ciencia y la educación era ilimitado. Cada generación se basa en los descubrimientos de la anterior. Los problemas son reales pero tienen solución porque el ingenio humano se agrava con el tiempo. Donde Rousseau vio corrupción, Condorcet vio acumulación. La imprenta no debilitó el pensamiento. Lo difundió. La medicina no nos debilitó. Nos dio décadas de vida que nuestros antepasados ​​nunca tuvieron. Las herramientas no eran el problema. La capacidad humana para mejorarlos fue la constante. Esta es la [posición del constructor de IA](/posts/ai-skepticism-is-really-about-fe-in-humans), reafirmada con inevitabilidad. Las personas que trabajan con IA ven claramente sus fallos, pero también observan el ritmo de mejora con sus propias manos en el trabajo. Confían en que los humanos puedan hacer que estas herramientas nos sirvan porque eso es lo que los humanos siempre han hecho. ## Hobbes: la correa Entre el pesimismo de Rousseau y el optimismo de Condorcet se encuentra una posición que parece un progreso pero no lo es. Hobbes parece el aliado de Condorcet, pero no lo es. En [*Leviatán*](https://standardebooks.org/ebooks/thomas-hobbes/leviathan/text/chapter-13) (1651), Hobbes argumentó que la vida sin una sociedad organizada era "solitaria, pobre, desagradable, brutal y breve". Necesitamos la civilización no porque los humanos sean geniales, sino porque somos terribles sin alguien que nos controle. Hobbes representa un tipo diferente de escepticismo sobre la IA: no "mantenerse alejado de la tecnología" sino "regularla fuertemente porque no se puede confiar a los humanos herramientas poderosas". Comparte el pesimismo del escéptico sobre la naturaleza humana, pero lo canaliza hacia el control institucional en lugar de hacia la retirada personal. Esta es la posición detrás de la mayoría de los llamados a regular la IA. No es una moderación rousseauniana. Es una restricción hobbesiana. Uno le pide que se aleje de la herramienta. El otro pide al Estado que intervenga. ## Kant: la elección colectiva Kant estuvo más cerca que cualquiera de ellos de plantear correctamente el problema. En 1784 escribió un breve ensayo titulado ["¿Qué es la Ilustración?"](https://www.columbia.edu/acis/ets/CCREAD/etscc/kant.html) Su respuesta: es la salida de la humanidad de una inmadurez autoimpuesta. El coraje de utilizar el propio entendimiento sin la dirección de otro. Lo que Kant quería decir era que la cuestión no es si las herramientas son buenas o malas. Se trata de si las personas eligen interactuar con ellos usando su propio criterio o si ceden: a la autoridad, al miedo, a la suposición de que alguien más se dará cuenta. En términos kantianos, el escéptico de la IA elige la inmadurez. No porque las preocupaciones sean equivocadas. Las preocupaciones sobre los prejuicios, el costo ambiental, la dependencia cognitiva y el mal uso militar son legítimas. Pero alejarse de la tecnología y decidir que es problema de otra persona es una decisión de no participar en la configuración del resultado. Kant tiene mucha razón. Pero su encuadre tiene un techo. Plantea la pregunta como colectiva: ¿elegirá la humanidad la madurez? ¿Aparecerá gente? Eso es importante. Tampoco es suficiente. ## Nietzsche: en lo que te conviertes El pensador que supera ese techo es Nietzsche. Y llega allí haciendo una pregunta que ninguno de los demás hizo. Rousseau pregunta: ¿nos corrompe la herramienta? Condorcet pregunta: ¿nos hace avanzar la herramienta? Hobbes pregunta: ¿se puede controlar la herramienta? Kant pregunta: ¿elegiremos comprometernos? Nietzsche pregunta: ¿qué revela el encuentro con la herramienta sobre quién eres y en quién te estás convirtiendo? En [*Así habló Zaratustra*](https://www.gutenberg.org/files/1998/1998-h/1998-h.htm), Nietzsche traza una línea entre el *último hombre* y el *superhombre*. El último hombre está cómodo. Ha encontrado su pequeña felicidad. Él parpadea. "Hemos inventado la felicidad", dicen los últimos hombres. Evitan las dificultades porque las dificultades les resultan desagradables. Evitan el riesgo porque el riesgo amenaza la comodidad. Tienen opiniones sobre todo y convicciones sobre nada. El superhombre es todo lo contrario. No es un superhéroe. Una persona comprometida en perpetua superación de sí misma. Alguien que toma lo difícil y lo utiliza como material. Quien trata los obstáculos no como razones para retirarse sino como la sustancia a partir de la cual se construye un yo más fuerte. Nietzsche miraría el debate sobre la IA y no vería ninguno de los lados con claridad. Los escépticos que se alejan de la IA porque es defectuosa, porque podría erosionar algo que valoran, porque alguien podría hacer un mal uso de ella: Nietzsche los reconocería como los últimos hombres. No se equivoca en sus observaciones. Pero prefiriendo la comodidad al encuentro. Elegir la seguridad de la crítica sobre la vulnerabilidad de la creación. Han encontrado su pequeña felicidad y quieren que la nueva herramienta la deje intacta. Pero Nietzsche tampoco se pondría del lado de los ingenuos optimistas. Las personas que adoptan la IA acríticamente, que subcontratan su pensamiento, que dejan que la herramienta haga el trabajo creativo que deberían hacer ellos mismos: también son los últimos hombres. Han cambiado una forma de comodidad por otra. En lugar de evitar la tecnología, dejaron que ella los llevara. De cualquier manera, el yo sigue siendo pequeño. La posición nietzscheana es más dura que cualquiera de ellas. Dice: la tecnología está aquí. Cambiará lo que significa pensar, crear, trabajar, ser humano. Ese cambio no es una amenaza de la que huir ni un regalo que recibir pasivamente. Es material. Lo que importa es lo que haces con ello. La superación personal significa utilizar la IA en aquellos lugares donde te obliga a mejorar. Un escritor que utiliza la IA para investigar más rápido y luego escribe con más profundidad y honestidad que antes, está superando. Un profesor que utiliza la IA para automatizar las calificaciones y luego dedica el tiempo libre a las partes de la enseñanza que exigen una presencia humana real, está superando la situación. Un programador que utiliza IA para generar texto estándar y luego se concentra en la arquitectura y el diseño que requieren juicio, está superando. La persona que evita la IA para preservar una habilidad está preservando, no superando. La persona que se entrega a la IA y deja de desarrollar la habilidad está decayendo, no superando. Nietzsche diría que ambos caminos conducen al mismo lugar: un yo más pequeño. ## La voluntad de poder: lo que importa aquí La dimensión más relevante de la voluntad de poder de Nietzsche aquí no es la dominación sobre los demás. Es el impulso de crecer, de crear, de imponer forma al caos. Es el instinto que hace que un artista pinte, un fundador construya, un investigador se adentre en lo desconocido. La voluntad de poder es autodirigida. Quiere más de ti, no más para ti. La tecnología pone a prueba esta voluntad. Todas las herramientas importantes de la historia han planteado la misma pregunta: ¿usarás esto para ser más o lo usarás para ser menos? La impresión podría convertirlo en un lector o un consumidor pasivo de folletos. El automóvil podría expandir su mundo o reducirlo a un viaje diario. Internet podría conectarte con mentes de todo el planeta o encerrarte en una burbuja algorítmica. La IA es la versión más intensa de esta prueba hasta el momento. Puede pensar por ti. Puede escribir por ti. Puede crear imágenes, componer música, generar estrategias. La pregunta no es si la tecnología funciona. La pregunta es si lo utilizas como herramienta para tu propia voluntad creativa o como sustituto de ella. ## Sin piedad, sin resentimiento Hay una pieza más de la lente nietzscheana que importa aquí. Nietzsche despreciaba lo que llamaba [*resentimiento*](https://en.wikisource.org/wiki/The_Genealogy_of_Morals/First_Essay): el impulso de devaluar lo que no se puede alcanzar. [Esopo contó la versión](https://en.wikipedia.org/wiki/The_Fox_and_the_Grapes) con un zorro y uvas agrias. Nietzsche lo vio recorrer civilizaciones enteras. Gran parte del escepticismo sobre la IA tiene este tono. No todo. Algunos tienen principios y están fundamentados. Pero el trasfondo de muchas de las críticas es: "esta tecnología amenaza algo que tengo, por lo que la tecnología debe ser mala". El escritor que teme a la IA devaluará la prosa. El artista que teme a la IA devaluará la ilustración. El trabajador del conocimiento que teme a la IA devaluará la experiencia. Su crítica a menudo se presenta como una preocupación ética. Pero en el fondo, a menudo es una defensa de posición, revestida con el lenguaje de los valores. Nietzsche diría: si la IA puede hacer lo que tú haces, eso no es un argumento en contra de la IA. Es una señal de que necesitas ir más profundo. Encuentre la capa de su trabajo que ninguna herramienta puede replicar. Si esa capa no existe, el problema no es la herramienta. El problema es que dejaste de desarrollarte antes de alcanzarlo. Eso no es crueldad. Es honestidad. Y Nietzsche valoraba la honestidad por encima de la comodidad. ## La eterna recurrencia de la misma pregunta El experimento mental de Nietzsche sobre el eterno retorno pregunta: si tuvieras que vivir tu vida de nuevo, de manera idéntica, para siempre, ¿lo afirmarías? ¿Dirías sí a cada elección, a cada encuentro, a cada dificultad? Aplicada a la tecnología, la pregunta es: si este momento exacto, en el que la IA es nueva, incierta y llena de riesgos y potencial, volviera a repetirse para siempre, ¿elegiría comprometerse o retirarse? ¿Elegirías la dificultad de trabajar con una herramienta que cambia el suelo bajo tus pies, o elegirías la comodidad de rechazarla? Todas las tecnologías importantes han forzado esta misma pregunta. La imprenta. El ferrocarril. El teléfono. Radio. Televisión. La Internet. Redes sociales. Cada preocupación resultó ser parcialmente correcta. La memoria cambió después de la impresión. Las comunidades se reorganizaron en torno al ferrocarril. Las redes sociales erosionaron la realidad compartida. Las herramientas siempre trajeron costos reales. Pero los costos nunca fueron resueltos por las personas que se mantuvieron alejadas. Fueron resueltos, lenta e imperfectamente, por las personas que participaron. Y las personas que participaron cambiaron por el encuentro. Ese es el punto. No sólo arreglaron la tecnología. Se convirtieron en personas diferentes en el proceso de trabajar con ello. Rousseau apostó contra la capacidad humana. Condorcet apostó por ello. Hobbes quería limitarlo. Kant dijo que era una elección. Nietzsche diría que la pregunta en sí es errónea. No existe una "capacidad humana" en abstracto. Sólo queda lo que haces a continuación. La tecnología está aquí. Te pondrá a prueba. En lo que te conviertes como respuesta es la única respuesta que importa.