O que a tecnologia pede de você
O debate sobre a IA mapeia uma questão que o Iluminismo nunca resolveu. Rousseau disse que as ferramentas nos corrompem. Condorcet disse que eles nos aperfeiçoam. Nietzsche disse que ambos não entenderam. A tecnologia é um teste de caráter, e a única resposta honesta é o que você se torna no encontro.

Uma conversa sobre um ensaio anterior que escrevi sobre ceticismo em IA me fez perceber que o argumento que eu estava apresentando tem raízes que vão muito mais longe do que eu havia considerado. Não apenas sobre IA. Sobre a própria tecnologia. Sobre o que as ferramentas fazem às pessoas que as utilizam. A “fé nos humanos” que descrevi parece kantiana à primeira vista – será que as pessoas escolherão envolver-se? Mas o que eu realmente quis dizer foi algo que Nietzsche chegou primeiro: aparecer é o pré-requisito, não a resposta. A questão mais profunda é o que você se torna quando faz isso.
A questão de saber se a tecnologia melhora ou corrompe a condição humana é um dos mais antigos debates não resolvidos do pensamento moderno. A IA é apenas a última arena onde estamos repetindo. E todos os pensadores iluministas que moldaram este argumento acertaram em parte, mas perderam o que é mais importante.
Rousseau: a queda
Em 1750, Jean-Jacques Rousseau ganhou um prêmio da Academia de Dijon por um ensaio argumentando que a restauração das ciências e das artes não purificou a moral, mas as degradou. Cinco anos depois, em seu Discurso sobre Desigualdade, ele foi mais longe. Ele atribuiu a origem dos males sociais à própria invenção. A metalurgia e a agricultura criaram propriedade. A propriedade criou desigualdade. A desigualdade criou os contratos sociais que prenderam tudo.
A posição de Rousseau era clara: os humanos no seu estado natural eram livres, compassivos e completos. A civilização, impulsionada pela tecnologia, afastou-os dessa totalidade. Quanto mais ferramentas construímos, mais caímos.
Esta é a posição dos céticos da IA, reafirmada. Cada nova ferramenta nos distancia da experiência humana autêntica. A IA irá corroer a nossa capacidade de pensar criticamente, de lembrar por nós mesmos, de criar sem ajuda. A resposta sábia é a moderação. Limite a exposição. Preservar o que temos. Fique perto do estado natural.
Condorcet: a ascensão
A posição oposta veio do Marquês de Condorcet. Escrevendo em 1794, escondendo-se das autoridades que logo o executariam, Condorcet compôs seu Esboço para um quadro histórico do progresso da mente humana. Ele argumentou que o progresso humano através da razão, da ciência e da educação era ilimitado. Cada geração se baseia nas descobertas da anterior. Os problemas são reais, mas podem ser resolvidos porque a engenhosidade humana aumenta com o tempo.
Onde Rousseau viu corrupção, Condorcet viu acumulação. A imprensa não enfraqueceu o pensamento. Isso espalhou. A medicina não nos tornou mais fracos. Deu-nos décadas de vida que os nossos antepassados nunca tiveram. As ferramentas não eram o problema. A capacidade humana para melhorá-los era a constante.
Esta é a posição do construtor de IA, reafirmada com inevitabilidade. As pessoas que trabalham com IA veem claramente suas falhas, mas também observam a taxa de melhoria com as próprias mãos no trabalho. Eles confiam que os humanos podem fazer com que essas ferramentas nos sirvam porque é isso que os humanos sempre fizeram.
Hobbes: a coleira
Entre o pessimismo de Rousseau e o optimismo de Condorcet existe uma posição que parece progresso, mas não o é. Hobbes parece aliado de Condorcet, mas não é. Em Leviathan (1651), Hobbes argumentou que a vida sem sociedade organizada era "solitária, pobre, desagradável, brutal e curta". Precisamos da civilização não porque os humanos sejam ótimos, mas porque somos terríveis sem alguém segurando a coleira.
Hobbes representa um tipo diferente de ceticismo em relação à IA: não “ficar longe da tecnologia”, mas “regulamentá-la fortemente porque não se pode confiar nos humanos com ferramentas poderosas”. Partilha o pessimismo do cético sobre a natureza humana, mas canaliza-o para o controlo institucional, em vez de para o recuo pessoal.
Esta é a posição por trás da maioria dos apelos à regulamentação da IA. Não é a restrição rousseauniana. É uma restrição hobbesiana. Um pede que você se afaste da ferramenta. O outro pede que o Estado intervenha.
Kant: a escolha coletiva
Kant chegou mais perto do que qualquer um deles de enquadrar o problema corretamente. Em 1784 ele escreveu um pequeno ensaio chamado "O que é o Iluminismo?" Sua resposta: é a emergência da humanidade da imaturidade autoimposta. A coragem de usar o próprio entendimento sem a orientação de outra pessoa.
O argumento de Kant era que a questão não é se as ferramentas são boas ou más. É se as pessoas escolhem se envolver com eles usando seu próprio julgamento, ou se eles se submetem: à autoridade, ao medo, à suposição de que outra pessoa irá descobrir.
Em termos kantianos, o cético da IA escolhe a imaturidade. Não porque as preocupações estejam erradas. As preocupações sobre preconceitos, custos ambientais, dependência cognitiva e uso indevido militar são legítimas. Mas afastar-se da tecnologia, decidindo que o problema é de outra pessoa, é uma decisão de não participar na definição do resultado.
Kant acerta bastante. Mas seu enquadramento tem teto. Ele enquadra a questão como coletiva: a humanidade escolherá a maturidade? As pessoas vão aparecer? Isso é importante. Também não é suficiente.
Nietzsche: o que você se torna
O pensador que ultrapassa esse teto é Nietzsche. E ele chega lá fazendo uma pergunta que nenhum dos outros fez.
Rousseau pergunta: a ferramenta nos corrompe? Condorcet pergunta: a ferramenta nos avança? Hobbes pergunta: a ferramenta pode ser controlada? Kant pergunta: escolheremos nos envolver? Nietzsche pergunta: o que o encontro com a ferramenta revela sobre quem você é e quem está se tornando?
Em Assim falou Zaratustra, Nietzsche traça uma linha entre o último homem e o super-homem. O último homem está confortável. Ele encontrou sua pequena felicidade. Ele pisca. “Nós inventamos a felicidade”, dizem os últimos homens. Eles evitam dificuldades porque a dificuldade é desagradável. Eles evitam o risco porque o risco ameaça o conforto. Eles têm opiniões sobre tudo e convicções sobre nada.
O super-homem é o oposto. Não é um super-herói. Uma pessoa engajada em perpétua auto-superação. Alguém que pega o que é difícil e usa como material. Que trata os obstáculos não como motivos para recuar, mas como a substância a partir da qual se constrói um eu mais forte.
Nietzsche olharia para o debate sobre IA e não veria nenhum dos lados claramente.
Os céticos que recuam da IA porque ela tem falhas, porque pode corroer algo que valorizam, porque alguém pode usá-la indevidamente: Nietzsche os reconheceria como os últimos homens. Não está errado em suas observações. Mas escolher o conforto ao invés do encontro. Escolher a segurança da crítica em vez da vulnerabilidade da criação. Eles encontraram sua pequena felicidade e querem que a nova ferramenta a deixe intacta.
Mas Nietzsche também não ficaria do lado dos otimistas ingênuos. As pessoas que adotam a IA de forma acrítica, que terceirizam o seu pensamento, que deixam a ferramenta fazer o trabalho criativo que deveriam fazer: eles também são os últimos homens. Eles trocaram uma forma de conforto por outra. Em vez de evitarem a tecnologia, deixaram-se levar por ela. De qualquer forma, o eu permanece pequeno.
A posição nietzschiana é mais difícil do que qualquer uma dessas. Diz: a tecnologia está aqui. Mudará o que significa pensar, criar, trabalhar, ser humano. Essa mudança não é uma ameaça da qual fugir e nem um presente a receber passivamente. É material. O que importa é o que você acha disso.
Autosuperação significa usar IA nos lugares onde ela força você a se tornar melhor. Um escritor que usa IA para pesquisar com mais rapidez e depois escreve com mais profundidade e honestidade do que antes está superando. Um professor que usa IA para automatizar a avaliação e depois gasta o tempo livre nas partes do ensino que exigem presença humana real, está superando. Um programador que usa IA para gerar padrões e depois se concentra na arquitetura e no design que exigem julgamento está superando.
A pessoa que evita a IA para preservar uma habilidade está preservando, não superando. A pessoa que se entrega à IA e deixa de desenvolver a habilidade está declinando, e não superando. Nietzsche diria que ambos os caminhos levam ao mesmo lugar: um eu menor.
A vontade de poder: o que importa aqui
A dimensão mais relevante da vontade de poder de Nietzsche aqui não é a dominação sobre os outros. É o impulso para crescer, para criar, para impor forma ao caos. É o instinto que faz um artista pintar, um fundador construir, um pesquisador avançar para o desconhecido. A vontade de poder é autodirigida. Ele quer mais de você, não mais para você.
A tecnologia testa isso. Todas as principais ferramentas da história fizeram a mesma pergunta: você usará isso para se tornar mais ou para se tornar menos? A impressão pode torná-lo um leitor ou consumidor passivo de panfletos. O carro pode expandir seu mundo ou reduzi-lo a um deslocamento diário. A internet poderia conectá-lo a mentes de todo o planeta ou selá-lo em uma bolha algorítmica.
AI é a versão mais intensa deste teste até agora. Ele pode pensar por você. Ele pode escrever para você. Pode criar imagens, compor músicas, gerar estratégias. A questão não é se a tecnologia funciona. A questão é se você a utiliza como uma ferramenta para sua própria vontade criativa ou como um substituto dela.
Sem piedade, sem ressentimento
Há mais uma peça da lente nietzschiana que importa aqui. Nietzsche desprezava o que chamou de ressentiment: o impulso de desvalorizar aquilo que você não pode alcançar. Esopo contou a versão com uma raposa e uvas verdes. Nietzsche viu isso percorrendo civilizações inteiras.
Muito ceticismo em relação à IA carrega esse sabor. Nem tudo. Alguns são baseados em princípios e fundamentados. Mas o tom de muitas das críticas é: “esta tecnologia ameaça algo que possuo, por isso a tecnologia deve ser má”. O escritor que teme a IA desvalorizará a prosa. O artista que teme a IA desvalorizará a ilustração. O trabalhador do conhecimento que teme a IA desvalorizará a especialização. A sua crítica apresenta-se frequentemente como uma preocupação ética. Mas, no fundo, muitas vezes é uma defesa de posição, vestida na linguagem dos valores.
Nietzsche diria: se a IA pode fazer o que você faz, isso não é um argumento contra a IA. É um sinal de que você precisa ir mais fundo. Encontre a camada do seu trabalho que nenhuma ferramenta pode replicar. Se essa camada não existir, o problema não é a ferramenta. O problema é que você parou de desenvolver antes de alcançá-lo.
Isso não é crueldade. É honestidade. E Nietzsche valorizava a honestidade acima do conforto.
A eterna recorrência da mesma pergunta
O experimento mental de Nietzsche sobre o eterno retorno pergunta: se você tivesse que viver sua vida novamente, de forma idêntica, para sempre, você afirmaria isso? Você diria sim a cada escolha, a cada encontro, a cada dificuldade?
Aplicada à tecnologia, a questão é: se este exato momento, onde a IA é nova, incerta e cheia de riscos e potencial, se repetisse para sempre, você escolheria o envolvimento ou a retirada? Você escolheria a dificuldade de trabalhar com uma ferramenta que muda o terreno sob seus pés ou escolheria o conforto de recusá-la?
Todas as principais tecnologias forçaram essa mesma questão. A imprensa. A ferrovia. O telefone. Rádio. Televisão. A Internet. Mídias sociais. Cada preocupação revelou-se parcialmente correta. A memória mudou após a impressão. As comunidades se reorganizaram em torno da ferrovia. A mídia social corroeu a realidade compartilhada. As ferramentas sempre traziam custos reais.
Mas os custos nunca foram resolvidos pelas pessoas que ficaram longe. Eles foram resolvidos, lenta e imperfeitamente, pelas pessoas que se engajaram. E as pessoas que se engajaram foram transformadas pelo encontro. Esse é o ponto. Eles não apenas consertaram a tecnologia. Eles se tornaram pessoas diferentes no processo de trabalhar com isso.
Rousseau apostou contra a capacidade humana. Condorcet apostou nisso. Hobbes queria restringi-lo. Kant disse que era uma escolha.
Nietzsche diria que a questão em si está errada. Não existe “capacidade humana” em abstrato. Existe apenas o que você faz a seguir. A tecnologia está aqui. Isso irá testar você. O que você se torna em resposta é a única resposta que importa.