Percakapan tentang [esai sebelumnya](/posts/ai-skeptisisme-adalah-benar-benar-tentang-iman-pada-manusia) yang saya tulis tentang skeptisisme AI menyadarkan saya bahwa argumen yang saya buat memiliki akar yang lebih jauh dari yang saya duga. Bukan hanya tentang AI. Tentang teknologi itu sendiri. Tentang pengaruh alat terhadap orang yang menggunakannya. “Kepercayaan pada manusia” yang saya jelaskan di sana terdengar seperti Kantian di permukaan – akankah orang memilih untuk terlibat? Namun yang sebenarnya saya maksudkan adalah sesuatu yang harus didahulukan oleh Nietzsche: hadir adalah prasyaratnya, bukan jawabannya. Pertanyaan yang lebih dalam adalah akan jadi apa Anda ketika Anda melakukannya.

Pertanyaan apakah teknologi memperbaiki atau merusak kondisi manusia adalah salah satu perdebatan tertua yang belum terselesaikan dalam pemikiran modern. AI hanyalah arena terbaru tempat kami mengulanginya. Dan para pemikir Pencerahan yang membentuk argumen ini semuanya mengambil bagian dari argumen ini dengan benar, namun kehilangan hal yang paling penting.

## Rousseau: kehancuran

Pada tahun 1750, Jean-Jacques Rousseau memenangkan hadiah dari Akademi Dijon untuk sebuah [esai](https://jjrousseau.net/english-lecture/discourse-on-the-sciences-and-the-arts/) yang menyatakan bahwa pemulihan ilmu pengetahuan dan seni tidak memurnikan moral tetapi menurunkannya. Lima tahun kemudian, dalam [*Discourse on Inequality*](https://en.wikisource.org/wiki/Discourse_on_the_Origin_of_Inequality_Among_Men/Part_I), dia melangkah lebih jauh. Dia menelusuri asal muasal penyakit sosial hingga penemuan itu sendiri. Metalurgi dan pertanian menciptakan properti. Properti menciptakan kesenjangan. Ketimpangan menciptakan kontrak sosial yang mengunci semuanya.

Posisi Rousseau jelas: manusia dalam keadaan alamiahnya bebas, penuh kasih sayang, dan utuh. Peradaban, yang didorong oleh teknologi, menjauhkan mereka dari keutuhan tersebut. Semakin banyak alat yang kita buat, semakin jauh kita terjatuh.

Ini adalah posisi skeptis AI, yang dinyatakan kembali. Setiap alat baru menjauhkan kita dari pengalaman manusia yang otentik. AI akan mengikis kemampuan kita berpikir kritis, mengingat diri sendiri, berkreasi tanpa bantuan. Respons yang bijaksana adalah menahan diri. Batasi paparan. Pertahankan apa yang kita miliki. Tetap dekat dengan keadaan alami.

## Condorcet: pendakian

Posisi sebaliknya datang dari Marquis de Condorcet. Menulis pada tahun 1794, bersembunyi dari pihak berwenang yang akan segera mengeksekusinya, Condorcet menyusun [*Sketsa Gambar Sejarah Kemajuan Pikiran Manusia*](https://archive.org/details/bim_eighteenth- Century_esquisse-dun-tableau-h_caritat-marie-jean-anto_1795). Ia berpendapat bahwa kemajuan manusia melalui akal, ilmu pengetahuan, dan pendidikan tidak terbatas. Setiap generasi membangun penemuan-penemuan generasi sebelumnya. Permasalahan memang nyata namun dapat dipecahkan karena kecerdikan manusia semakin bertambah seiring berjalannya waktu.

Jika Rousseau melihat korupsi, Condorcet melihat akumulasi. Mesin cetak tidak melemahkan pemikiran. Itu menyebarkannya. Pengobatan tidak membuat kita lebih lemah. Ini memberi kita kehidupan puluhan tahun yang tidak pernah dimiliki nenek moyang kita. Alatnya bukanlah masalahnya. Kapasitas manusia untuk memperbaikinya selalu konstan.

Inilah [posisi pembuat AI](/posts/ai-skeptisisme-is-benar-benar-tentang-iman-pada-manusia), yang tidak dapat dihindari. Orang-orang yang bekerja dengan AI melihat kegagalannya dengan jelas, namun mereka juga menyaksikan sendiri tingkat perbaikan dalam pekerjaan tersebut. Mereka percaya bahwa manusia dapat membuat alat-alat ini berguna bagi kita karena itulah yang selalu dilakukan manusia.

## Hobbes: tali pengikatnya

Di antara pesimisme Rousseau dan optimisme Condorcet, terdapat posisi yang tampak seperti kemajuan, namun sebenarnya tidak. Hobbes tampak seperti sekutu Condorcet tetapi sebenarnya bukan. Dalam [*Leviathan*](https://standardebooks.org/ebooks/thomas-hobbes/leviathan/text/chapter-13) (1651), Hobbes berpendapat bahwa kehidupan tanpa masyarakat terorganisir adalah "sendirian, miskin, jahat, brutal, dan singkat". Kita membutuhkan peradaban bukan karena manusia itu hebat, tapi karena kita buruk tanpa ada yang memegang kendali.

Hobbes mewakili jenis skeptisisme AI yang berbeda: bukan "menjauhi teknologi" namun "mengaturnya secara ketat karena manusia tidak dapat dipercaya dengan alat canggih". Hal ini sama dengan pesimisme orang-orang skeptis terhadap sifat manusia, namun menyalurkannya ke dalam kendali institusional dan bukannya kemunduran pribadi.

Hal inilah yang mendasari sebagian besar seruan regulasi AI. Ini bukan pengekangan Rousseauian. Ini adalah batasan Hobbesian. Seseorang meminta Anda untuk mundur dari alat tersebut. Pihak lain meminta negara untuk turun tangan.

## Kant: pilihan kolektif

Kant lebih dekat daripada mereka semua dalam membingkai masalah dengan benar. Pada tahun 1784 ia menulis esai pendek berjudul ["Apa itu Pencerahan?"](https://www.columbia.edu/acis/ets/CCREAD/etscc/kant.html) Jawabannya: ini adalah kebangkitan umat manusia dari ketidakdewasaan yang dipaksakan oleh diri sendiri. Keberanian untuk menggunakan pemahaman sendiri tanpa arahan orang lain.

Maksud Kant adalah pertanyaannya bukanlah apakah alat tersebut baik atau buruk. Masalahnya adalah apakah orang memilih untuk terlibat dengan mereka menggunakan penilaian mereka sendiri, atau apakah mereka menyerah: pada otoritas, rasa takut, pada asumsi bahwa orang lain akan mengetahuinya.

Dalam istilah Kantian, orang yang skeptis terhadap AI memilih ketidakdewasaan. Bukan karena kekhawatirannya salah. Kekhawatiran mengenai bias, dampak buruk terhadap lingkungan, ketergantungan kognitif, dan penyalahgunaan oleh militer adalah hal yang wajar. Namun mundur dari teknologi, dan memutuskan bahwa itu adalah masalah orang lain, adalah sebuah keputusan untuk tidak berpartisipasi dalam menentukan hasilnya.

Kant melakukan banyak hal dengan benar. Tapi pembingkaiannya ada batasnya. Dia menyusun pertanyaan ini sebagai pertanyaan kolektif: akankah umat manusia memilih kedewasaan? Akankah orang-orang muncul? Itu penting. Itu juga tidak cukup.

## Nietzsche: Anda menjadi apa

Pemikir yang berhasil melewati batas tersebut adalah Nietzsche. Dan dia sampai di sana dengan mengajukan pertanyaan yang tidak ditanyakan orang lain.

Rousseau bertanya: apakah alat tersebut merusak kita? Condorcet bertanya: apakah alat ini memajukan kita? Hobbes bertanya: apakah alat tersebut dapat dikontrol? Kant bertanya: akankah kita memilih untuk terlibat? Nietzsche bertanya: apa yang diungkapkan oleh pertemuan dengan alat tersebut tentang siapa Anda, dan menjadi siapa Anda?

Dalam [*Thus Spoke Zarathustra*](https://www.gutenberg.org/files/1998/1998-h/1998-h.htm), Nietzsche menarik garis antara *orang terakhir* dan *orang yang berlebihan*. Orang terakhir merasa nyaman. Dia telah menemukan kebahagiaan kecilnya. Dia berkedip. “Kami telah menemukan kebahagiaan,” kata orang terakhir. Mereka menghindari kesulitan karena kesulitan itu tidak menyenangkan. Mereka menghindari risiko karena risiko mengancam kenyamanan. Mereka mempunyai pendapat tentang segala hal dan keyakinan tentang apa pun.

Yang berlebihan adalah kebalikannya. Bukan pahlawan super. Seseorang yang terus-menerus mengatasi diri sendiri. Seseorang yang mengambil apa yang sulit dan menggunakannya sebagai materi. Mereka yang menganggap rintangan bukan sebagai alasan untuk mundur, melainkan sebagai bahan untuk membangun diri yang lebih kuat.

Nietzsche akan melihat perdebatan AI dan tidak melihat kedua pihak dengan jelas.

Kaum skeptis yang mundur dari AI karena kelemahannya, karena AI mungkin mengikis sesuatu yang mereka hargai, karena seseorang mungkin menyalahgunakannya: Nietzsche akan mengakui mereka sebagai orang terakhir. Tidak salah dalam pengamatan mereka. Tapi memilih kenyamanan daripada pertemuan. Memilih keamanan kritik atas kerentanan ciptaan. Mereka telah menemukan kebahagiaan kecil mereka dan mereka ingin alat baru ini tidak terganggu.

Namun Nietzsche juga tidak akan berpihak pada kaum optimis yang naif. Orang-orang yang mengadopsi AI secara tidak kritis, yang melakukan outsourcing pemikiran mereka, yang membiarkan alat tersebut melakukan pekerjaan kreatif yang seharusnya mereka lakukan sendiri: mereka juga adalah orang-orang terakhir. Mereka telah menukar satu bentuk kenyamanan dengan kenyamanan lainnya. Alih-alih menghindari teknologi, mereka malah membiarkan teknologi membawanya. Apa pun yang terjadi, diri tetap kecil.

Posisi Nietzschean lebih sulit dibandingkan keduanya. Dikatakan: teknologinya ada di sini. Ini akan mengubah apa artinya berpikir, mencipta, bekerja, dan menjadi manusia. Perubahan tersebut bukanlah sebuah ancaman yang harus dihindari dan bukan sebuah anugerah yang harus diterima secara pasif. Itu adalah materi. Yang penting adalah apa yang Anda dapatkan darinya.

Mengatasi diri sendiri berarti menggunakan AI di tempat yang memaksa Anda menjadi lebih baik. Seorang penulis yang menggunakan AI untuk meneliti lebih cepat, kemudian menulis dengan lebih mendalam dan jujur ​​​​dari sebelumnya, adalah seorang yang berhasil. Seorang guru yang menggunakan AI untuk mengotomatiskan penilaian, kemudian menghabiskan waktu luangnya pada bagian-bagian pengajaran yang menuntut kehadiran manusia secara nyata, adalah seorang yang mampu mengatasi tantangan tersebut. Seorang programmer yang menggunakan AI untuk menghasilkan boilerplate, kemudian berfokus pada arsitektur dan desain yang memerlukan penilaian, sudah bisa mengatasinya.

Orang yang menghindari AI untuk mempertahankan suatu keterampilan berarti melestarikan, bukan mengatasi. Orang yang menyerah pada AI dan berhenti mengembangkan keterampilannya sedang mengalami kemunduran, bukan mengatasi. Nietzsche mengatakan kedua jalan menuju ke tempat yang sama: diri yang lebih kecil.

## Keinginan untuk berkuasa: yang penting di sini

Dimensi yang paling relevan dari keinginan Nietzsche untuk berkuasa di sini bukanlah dominasi terhadap orang lain. Ini adalah dorongan untuk bertumbuh, mencipta, memaksakan bentuk pada kekacauan. Nalurilah yang membuat seorang seniman melukis, seorang pendiri membangun, seorang peneliti mendorong ke hal yang tidak diketahui. Keinginan untuk berkuasa diarahkan pada diri sendiri. Ia menginginkan lebih dari Anda, bukan lebih dari Anda.

Teknologi menguji keinginan ini. Setiap alat besar dalam sejarah menanyakan pertanyaan yang sama: apakah Anda akan menggunakannya untuk menjadi lebih banyak, atau akankah Anda menggunakannya untuk menjadi lebih sedikit? Media cetak dapat menjadikan Anda seorang pembaca atau konsumen pasif pamflet. Mobil dapat memperluas dunia Anda atau mengecilkannya menjadi perjalanan pulang pergi. Internet dapat menghubungkan Anda dengan pikiran-pikiran di seluruh dunia atau menyegel Anda dalam gelembung algoritmik.

AI adalah versi paling intens dari pengujian ini. Ia dapat berpikir untuk Anda. Itu bisa menulis untuk Anda. Itu dapat membuat gambar, membuat musik, menghasilkan strategi. Pertanyaannya bukanlah apakah teknologi tersebut berhasil. Pertanyaannya adalah apakah Anda menggunakannya sebagai alat untuk keinginan kreatif Anda sendiri atau sebagai penggantinya.

## Tanpa rasa kasihan, tanpa dendam

Ada satu lagi lensa Nietzschean yang penting di sini. Nietzsche membenci apa yang disebutnya [*ressentiment*](https://en.wikisource.org/wiki/The_Genealogy_of_Morals/First_Essay): dorongan untuk merendahkan apa yang tidak dapat Anda capai. [Aesop menceritakan versinya](https://en.wikipedia.org/wiki/The_Fox_and_the_Grapes) dengan rubah dan anggur asam. Nietzsche melihatnya menyebar ke seluruh peradaban.

Banyak skeptisisme AI yang membawa rasa ini. Tidak semuanya. Ada pula yang berprinsip dan membumi. Namun inti dari banyak kritik tersebut adalah: "teknologi ini mengancam sesuatu yang saya miliki, jadi teknologi tersebut pasti buruk." Penulis yang takut AI akan merendahkan nilai prosa. Seniman yang takut akan AI akan merendahkan nilai ilustrasi. Pekerja pengetahuan yang takut akan AI akan meremehkan keahlian. Kritik mereka sering kali muncul sebagai keprihatinan etis. Namun di baliknya, sering kali hal tersebut merupakan pembelaan terhadap posisi, yang dikemas dalam bahasa nilai.

Nietzsche akan berkata: jika AI dapat melakukan apa yang Anda lakukan, itu bukanlah argumen yang menentang AI. Ini adalah sinyal bahwa Anda perlu melangkah lebih dalam. Temukan lapisan pekerjaan Anda yang tidak dapat ditiru oleh alat apa pun. Jika lapisan itu tidak ada, masalahnya bukan pada alatnya. Masalahnya adalah Anda berhenti berkembang sebelum Anda mencapainya.

Itu bukan kekejaman. Itu kejujuran. Dan Nietzsche menghargai kejujuran di atas kenyamanan.

## Pengulangan abadi dari pertanyaan yang sama

Eksperimen pemikiran Nietzsche tentang pengulangan abadi bertanya: jika Anda harus menjalani hidup Anda lagi, secara identik, selamanya, akankah Anda menegaskannya? Maukah Anda mengatakan ya pada setiap pilihan, setiap pertemuan, setiap kesulitan?

Jika diterapkan pada teknologi, pertanyaannya adalah: jika momen ini, ketika AI masih baru dan tidak pasti serta penuh risiko dan potensi, terulang selamanya, apakah Anda akan memilih untuk terlibat atau mundur? Apakah Anda akan memilih kesulitan bekerja dengan alat yang dapat mengubah landasan di bawah kaki Anda, atau apakah Anda akan memilih kenyamanan dengan menolaknya?

Setiap teknologi besar telah memaksakan pertanyaan yang sama. Mesin cetak. Kereta api. Telepon. Radio. Televisi. internet. media sosial. Setiap kekhawatiran ternyata sebagian benar. Memori memang berubah setelah dicetak. Komunitas memang melakukan reorganisasi seputar kereta api. Media sosial memang mengikis realitas bersama. Alat-alat tersebut selalu menimbulkan biaya yang nyata.

Namun biayanya tidak pernah terselesaikan oleh orang-orang yang menjauh. Masalah-masalah tersebut diselesaikan, secara perlahan dan tidak sempurna, oleh orang-orang yang terlibat. Dan orang-orang yang bertunangan diubah oleh pertemuan itu. Itulah intinya. Mereka tidak hanya memperbaiki teknologinya. Mereka menjadi orang yang berbeda dalam proses bekerja dengannya.

Rousseau bertaruh melawan kapasitas manusia. Condorcet bertaruh untuk itu. Hobbes ingin membatasinya. Kant mengatakan itu adalah sebuah pilihan.

Nietzsche berpendapat bahwa pertanyaan itu sendiri salah. Tidak ada “kapasitas manusia” secara abstrak. Yang ada hanyalah apa yang Anda lakukan selanjutnya. Teknologinya ada di sini. Itu akan mengujimu. Respons Anda adalah satu-satunya jawaban yang penting.