Uma conversa sobre [um ensaio anterior](/posts/ai-skepticism-is-really-about-faith-in-humans) que escrevi sobre ceticismo em IA me fez perceber que o argumento que eu estava apresentando tem raízes que vão muito mais longe do que eu havia considerado. Não apenas sobre IA. Sobre a própria tecnologia. Sobre o que as ferramentas fazem às pessoas que as utilizam. A “fé nos humanos” que descrevi parece kantiana à primeira vista – será que as pessoas escolherão envolver-se? Mas o que eu realmente quis dizer foi algo que Nietzsche chegou primeiro: aparecer é o pré-requisito, não a resposta. A questão mais profunda é o que você se torna quando faz isso.

A questão de saber se a tecnologia melhora ou corrompe a condição humana é um dos mais antigos debates não resolvidos do pensamento moderno. A IA é apenas a última arena onde estamos repetindo. E todos os pensadores iluministas que moldaram este argumento acertaram em parte, mas perderam o que é mais importante.

## Rousseau: a queda

Em 1750, Jean-Jacques Rousseau ganhou um prêmio da Academia de Dijon por um [ensaio](https://jjrousseau.net/english-lecture/discourse-on-the-sciences-and-the-arts/) argumentando que a restauração das ciências e das artes não purificou a moral, mas as degradou. Cinco anos depois, em seu [*Discurso sobre Desigualdade*](https://en.wikisource.org/wiki/Discourse_on_the_Origin_of_Inequality_Among_Men/Part_I), ele foi mais longe. Ele atribuiu a origem dos males sociais à própria invenção. A metalurgia e a agricultura criaram propriedade. A propriedade criou desigualdade. A desigualdade criou os contratos sociais que prenderam tudo.

A posição de Rousseau era clara: os humanos no seu estado natural eram livres, compassivos e completos. A civilização, impulsionada pela tecnologia, afastou-os dessa totalidade. Quanto mais ferramentas construímos, mais caímos.

Esta é a posição dos céticos da IA, reafirmada. Cada nova ferramenta nos distancia da experiência humana autêntica. A IA irá corroer a nossa capacidade de pensar criticamente, de lembrar por nós mesmos, de criar sem ajuda. A resposta sábia é a moderação. Limite a exposição. Preservar o que temos. Fique perto do estado natural.

## Condorcet: a ascensão

A posição oposta veio do Marquês de Condorcet. Escrevendo em 1794, escondendo-se das autoridades que logo o executariam, Condorcet compôs seu [*Esboço para um quadro histórico do progresso da mente humana*](https://archive.org/details/bim_eighteenth-century_esquisse-dun-tableau-h_caritat-marie-jean-anto_1795). Ele argumentou que o progresso humano através da razão, da ciência e da educação era ilimitado. Cada geração se baseia nas descobertas da anterior. Os problemas são reais, mas podem ser resolvidos porque a engenhosidade humana aumenta com o tempo.

Onde Rousseau viu corrupção, Condorcet viu acumulação. A imprensa não enfraqueceu o pensamento. Isso espalhou. A medicina não nos tornou mais fracos. Deu-nos décadas de vida que os nossos antepassados ​​nunca tiveram. As ferramentas não eram o problema. A capacidade humana para melhorá-los era a constante.

Esta é a [posição do construtor de IA](/posts/ai-skepticism-is-really-about-faith-in-humans), reafirmada com inevitabilidade. As pessoas que trabalham com IA veem claramente suas falhas, mas também observam a taxa de melhoria com as próprias mãos no trabalho. Eles confiam que os humanos podem fazer com que essas ferramentas nos sirvam porque é isso que os humanos sempre fizeram.

## Hobbes: a coleira

Entre o pessimismo de Rousseau e o optimismo de Condorcet existe uma posição que parece progresso, mas não o é. Hobbes parece aliado de Condorcet, mas não é. Em [*Leviathan*](https://standardebooks.org/ebooks/thomas-hobbes/leviathan/text/chapter-13) (1651), Hobbes argumentou que a vida sem sociedade organizada era "solitária, pobre, desagradável, brutal e curta". Precisamos da civilização não porque os humanos sejam ótimos, mas porque somos terríveis sem alguém segurando a coleira.

Hobbes representa um tipo diferente de ceticismo em relação à IA: não “ficar longe da tecnologia”, mas “regulamentá-la fortemente porque não se pode confiar nos humanos com ferramentas poderosas”. Partilha o pessimismo do cético sobre a natureza humana, mas canaliza-o para o controlo institucional, em vez de para o recuo pessoal.

Esta é a posição por trás da maioria dos apelos à regulamentação da IA. Não é a restrição rousseauniana. É uma restrição hobbesiana. Um pede que você se afaste da ferramenta. O outro pede que o Estado intervenha.

## Kant: a escolha coletiva

Kant chegou mais perto do que qualquer um deles de enquadrar o problema corretamente. Em 1784 ele escreveu um pequeno ensaio chamado ["O que é o Iluminismo?"](https://www.columbia.edu/acis/ets/CCREAD/etscc/kant.html) Sua resposta: é a emergência da humanidade da imaturidade autoimposta. A coragem de usar o próprio entendimento sem a orientação de outra pessoa.

O argumento de Kant era que a questão não é se as ferramentas são boas ou más. É se as pessoas escolhem se envolver com eles usando seu próprio julgamento, ou se eles se submetem: à autoridade, ao medo, à suposição de que outra pessoa irá descobrir.

Em termos kantianos, o cético da IA ​​escolhe a imaturidade. Não porque as preocupações estejam erradas. As preocupações sobre preconceitos, custos ambientais, dependência cognitiva e uso indevido militar são legítimas. Mas afastar-se da tecnologia, decidindo que o problema é de outra pessoa, é uma decisão de não participar na definição do resultado.

Kant acerta bastante. Mas seu enquadramento tem teto. Ele enquadra a questão como coletiva: a humanidade escolherá a maturidade? As pessoas vão aparecer? Isso é importante. Também não é suficiente.

## Nietzsche: o que você se torna

O pensador que ultrapassa esse teto é Nietzsche. E ele chega lá fazendo uma pergunta que nenhum dos outros fez.

Rousseau pergunta: a ferramenta nos corrompe? Condorcet pergunta: a ferramenta nos avança? Hobbes pergunta: a ferramenta pode ser controlada? Kant pergunta: escolheremos nos envolver? Nietzsche pergunta: o que o encontro com a ferramenta revela sobre quem você é e quem está se tornando?

Em [*Assim falou Zaratustra*](https://www.gutenberg.org/files/1998/1998-h/1998-h.htm), Nietzsche traça uma linha entre o *último homem* e o *super-homem*. O último homem está confortável. Ele encontrou sua pequena felicidade. Ele pisca. “Nós inventamos a felicidade”, dizem os últimos homens. Eles evitam dificuldades porque a dificuldade é desagradável. Eles evitam o risco porque o risco ameaça o conforto. Eles têm opiniões sobre tudo e convicções sobre nada.

O super-homem é o oposto. Não é um super-herói. Uma pessoa engajada em perpétua auto-superação. Alguém que pega o que é difícil e usa como material. Que trata os obstáculos não como motivos para recuar, mas como a substância a partir da qual se constrói um eu mais forte.

Nietzsche olharia para o debate sobre IA e não veria nenhum dos lados claramente.

Os céticos que recuam da IA ​​porque ela tem falhas, porque pode corroer algo que valorizam, porque alguém pode usá-la indevidamente: Nietzsche os reconheceria como os últimos homens. Não está errado em suas observações. Mas escolher o conforto ao invés do encontro. Escolher a segurança da crítica em vez da vulnerabilidade da criação. Eles encontraram sua pequena felicidade e querem que a nova ferramenta a deixe intacta.

Mas Nietzsche também não ficaria do lado dos otimistas ingênuos. As pessoas que adotam a IA de forma acrítica, que terceirizam o seu pensamento, que deixam a ferramenta fazer o trabalho criativo que deveriam fazer: eles também são os últimos homens. Eles trocaram uma forma de conforto por outra. Em vez de evitarem a tecnologia, deixaram-se levar por ela. De qualquer forma, o eu permanece pequeno.

A posição nietzschiana é mais difícil do que qualquer uma dessas. Diz: a tecnologia está aqui. Mudará o que significa pensar, criar, trabalhar, ser humano. Essa mudança não é uma ameaça da qual fugir e nem um presente a receber passivamente. É material. O que importa é o que você acha disso.

Autosuperação significa usar IA nos lugares onde ela força você a se tornar melhor. Um escritor que usa IA para pesquisar com mais rapidez e depois escreve com mais profundidade e honestidade do que antes está superando. Um professor que usa IA para automatizar a avaliação e depois gasta o tempo livre nas partes do ensino que exigem presença humana real, está superando. Um programador que usa IA para gerar padrões e depois se concentra na arquitetura e no design que exigem julgamento está superando.

A pessoa que evita a IA para preservar uma habilidade está preservando, não superando. A pessoa que se entrega à IA e deixa de desenvolver a habilidade está declinando, e não superando. Nietzsche diria que ambos os caminhos levam ao mesmo lugar: um eu menor.

## A vontade de poder: o que importa aqui

A dimensão mais relevante da vontade de poder de Nietzsche aqui não é a dominação sobre os outros. É o impulso para crescer, para criar, para impor forma ao caos. É o instinto que faz um artista pintar, um fundador construir, um pesquisador avançar para o desconhecido. A vontade de poder é autodirigida. Ele quer mais de você, não mais para você.

A tecnologia testa isso. Todas as principais ferramentas da história fizeram a mesma pergunta: você usará isso para se tornar mais ou para se tornar menos? A impressão pode torná-lo um leitor ou consumidor passivo de panfletos. O carro pode expandir seu mundo ou reduzi-lo a um deslocamento diário. A internet poderia conectá-lo a mentes de todo o planeta ou selá-lo em uma bolha algorítmica.

AI é a versão mais intensa deste teste até agora. Ele pode pensar por você. Ele pode escrever para você. Pode criar imagens, compor músicas, gerar estratégias. A questão não é se a tecnologia funciona. A questão é se você a utiliza como uma ferramenta para sua própria vontade criativa ou como um substituto dela.

## Sem piedade, sem ressentimento

Há mais uma peça da lente nietzschiana que importa aqui. Nietzsche desprezava o que chamou de [*ressentiment*](https://en.wikisource.org/wiki/The_Genealogy_of_Morals/First_Essay): o impulso de desvalorizar aquilo que você não pode alcançar. [Esopo contou a versão](https://en.wikipedia.org/wiki/The_Fox_and_the_Grapes) com uma raposa e uvas verdes. Nietzsche viu isso percorrendo civilizações inteiras.

Muito ceticismo em relação à IA carrega esse sabor. Nem tudo. Alguns são baseados em princípios e fundamentados. Mas o tom de muitas das críticas é: “esta tecnologia ameaça algo que possuo, por isso a tecnologia deve ser má”. O escritor que teme a IA desvalorizará a prosa. O artista que teme a IA desvalorizará a ilustração. O trabalhador do conhecimento que teme a IA desvalorizará a especialização. A sua crítica apresenta-se frequentemente como uma preocupação ética. Mas, no fundo, muitas vezes é uma defesa de posição, vestida na linguagem dos valores.

Nietzsche diria: se a IA pode fazer o que você faz, isso não é um argumento contra a IA. É um sinal de que você precisa ir mais fundo. Encontre a camada do seu trabalho que nenhuma ferramenta pode replicar. Se essa camada não existir, o problema não é a ferramenta. O problema é que você parou de desenvolver antes de alcançá-lo.

Isso não é crueldade. É honestidade. E Nietzsche valorizava a honestidade acima do conforto.

## A eterna recorrência da mesma pergunta

O experimento mental de Nietzsche sobre o eterno retorno pergunta: se você tivesse que viver sua vida novamente, de forma idêntica, para sempre, você afirmaria isso? Você diria sim a cada escolha, a cada encontro, a cada dificuldade?

Aplicada à tecnologia, a questão é: se este exato momento, onde a IA é nova, incerta e cheia de riscos e potencial, se repetisse para sempre, você escolheria o envolvimento ou a retirada? Você escolheria a dificuldade de trabalhar com uma ferramenta que muda o terreno sob seus pés ou escolheria o conforto de recusá-la?

Todas as principais tecnologias forçaram essa mesma questão. A imprensa. A ferrovia. O telefone. Rádio. Televisão. A Internet. Mídias sociais. Cada preocupação revelou-se parcialmente correta. A memória mudou após a impressão. As comunidades se reorganizaram em torno da ferrovia. A mídia social corroeu a realidade compartilhada. As ferramentas sempre traziam custos reais.

Mas os custos nunca foram resolvidos pelas pessoas que ficaram longe. Eles foram resolvidos, lenta e imperfeitamente, pelas pessoas que se engajaram. E as pessoas que se engajaram foram transformadas pelo encontro. Esse é o ponto. Eles não apenas consertaram a tecnologia. Eles se tornaram pessoas diferentes no processo de trabalhar com isso.

Rousseau apostou contra a capacidade humana. Condorcet apostou nisso. Hobbes queria restringi-lo. Kant disse que era uma escolha.

Nietzsche diria que a questão em si está errada. Não existe “capacidade humana” em abstrato. Existe apenas o que você faz a seguir. A tecnologia está aqui. Isso irá testar você. O que você se torna em resposta é a única resposta que importa.