Semua orang yang terlibat dalam AI saat ini, baik secara implisit maupun eksplisit, mencoba memprediksi arah perkembangan dan bagaimana perubahan tersebut akan mengubah kehidupan dan pekerjaan kita. Volume spekulasi sangat besar, dan sebagian besarnya bersifat kontradiktif. Hal itu tidak bisa dihindari. Tidak ada seorang pun yang dapat mengetahui dengan pasti apa yang akan terjadi dalam beberapa tahun ke depan. Ruang bergerak terlalu cepat, interaksi antar teknologi terlalu kompleks, dan efek tingkat kedua mendominasi dengan cara yang sulit untuk dimodelkan sebelumnya.

Namun, jika Anda beroperasi di bidang ini, terutama jika Anda membangun sesuatu dengan AI atau AI, tetap agnostik saja tidak cukup. Anda harus memilih serangkaian tesis inti tentang bagaimana dunia kemungkinan akan berevolusi dan dibangun secara koheren berdasarkan tesis tersebut, dengan mengetahui bahwa ada yang salah dan ada yang lebih penting dari yang diharapkan. Tesis ini bukan mengenai prediksi yang tepat, namun lebih pada mengidentifikasi tekanan struktural yang sepertinya tidak akan berbalik.

Berikut ini adalah asumsi utama yang saya jalankan saat ini. Pernyataan-pernyataan tersebut bukan merupakan klaim tentang keniscayaan, dan tidak dimaksudkan untuk mencakup semua kemungkinan di masa depan. Tren-tren tersebut, jika terus berlanjut, bahkan hanya sebagian saja, akan membentuk bagaimana sistem AI akan digunakan, di mana gesekan akan terakumulasi, dan jenis infrastruktur apa yang diperlukan. Pekerjaan saya ([Neotoma](/posts/truth-layer-agent-memory), lapisan kebenaran) paling baik dipahami sebagai respons terhadap asumsi-asumsi ini. Itu bukan alasan mereka, tapi dibangun sebagai antisipasi terhadap dunia yang mereka maksudkan.

## 1. Agen akan menjadi pelaku ekonomi negara

Selama dua tahun ke depan, para agen kemungkinan akan beralih dari interaksi yang bersifat asistif dan berpusat pada tindakan, dan menjadi aktor yang bermakna dan bermakna. Tidak diperlukan terobosan dalam kecerdasan umum. Inferensi yang lebih murah, API alat yang lebih mumpuni, dan toleransi yang lebih luas terhadap agen yang berjalan tanpa pengawasan sudah cukup.

Pergeseran masyarakat itu nyata. Kita terbiasa dengan alat yang tidak melakukan apa pun sampai kita bertindak. Ketika para agen tetap mempertahankan tujuan, berkoordinasi satu sama lain, dan mengambil tindakan yang tidak dapat diubah seiring berjalannya waktu, pertanyaan tentang siapa yang bertanggung jawab menjadi lebih sulit untuk dijawab. Lebih banyak pekerjaan yang didelegasikan kepada aktor non-manusia; [batas](/posts/kita-semua-centaur-sekarang) antara "Saya melakukan ini" dan "agen saya melakukan ini" melunak. Norma seputar kepercayaan, tanggung jawab, dan ketergantungan harus disesuaikan. Teknologi memungkinkan terjadinya perubahan; masyarakat harus memutuskan bagaimana menghadapinya.

Mengapa tren ini mungkin terjadi? Biaya marjinal untuk menjaga agar agen tetap hidup berkurang lebih cepat dibandingkan biaya untuk membangun kembali konteks. Ketika inferensi menjadi lebih murah dan orkestrasi semakin matang, mempertahankan status agen akan lebih efisien daripada merekonstruksinya dari awal. Tool API semakin mengasumsikan kesinambungan: kredensial, cache, artefak perantara. Kegigihan dihargai dibandingkan keadaan tanpa kewarganegaraan.

Di dunia ini, memori tidak lagi menjadi fitur kenyamanan. Ini menjadi bagian dari status sistem, sebanding dengan database dan bukan log obrolan. Ketika kondisi tersebut tepat dan dapat dipercaya, hal-hal baru menjadi mungkin dilakukan dalam skala besar: rencana jangka panjang yang memakan waktu berhari-hari atau berminggu-minggu, koordinasi antar banyak agen dan alat, dan pekerjaan yang didelegasikan hanya dapat dilakukan jika negara dapat dipercaya dan diperluas seiring berjalannya waktu.

Neotoma dibuat untuk itu. Ini memperlakukan memori sebagai keadaan sistem eksplisit: entitas, peristiwa, dan hubungan yang diketik dalam grafik deterministik, bukan residu cepat atau kesamaan yang tertanam. Sejarah seorang agen dapat diputar ulang, diperiksa, dan dijadikan alasan sebagai bagian dari sistem itu sendiri.

Apa yang harus diperhatikan tahun depan:
1. Kerangka kerja agen mengiklankan eksekusi yang berjalan lama, di latar belakang, atau dapat dilanjutkan sebagai fitur inti.
2. Tim mendiskusikan kerusakan atau penyimpangan status agen sebagai kelas bug yang berbeda daripada memulai ulang agen sebagai perbaikan.
3. Antarmuka produk memperlihatkan riwayat agen sebagai sesuatu yang dapat diperiksa dan bukan bersifat sementara.
4. Tim yang menjalankan banyak agen yang memerlukan satu sumber kebenaran untuk entitas dan keputusan.

## 2. Kesalahan agenik akan terlihat secara ekonomi

Ketika keluaran AI semakin banyak mengalir langsung ke penagihan, kepatuhan, hasil kerja klien, dan alur kerja otomatis, dampak kesalahan kemungkinan besar akan berubah. Apa yang saat ini merupakan ketidaknyamanan yang menyebar kini menjadi dampak ekonomi yang nyata.

Ketika kesalahan mulai terlihat dalam pemeriksaan postmortem, kontrak, dan pengajuan ke pengadilan, masyarakat mendapatkan gambaran yang lebih jelas tentang siapa yang menanggung kerugian dan siapa yang disalahkan. Organisasi akan menghadapi tekanan untuk membuktikan bagaimana keputusan dibuat dan apa yang diketahui sistem pada saat itu. Tekanan tersebut akan berdampak pada norma profesional, asuransi, dan regulasi. Individu dan tim kecil mungkin harus mengikuti standar yang awalnya dirancang untuk institusi besar yang memiliki jalur audit. Keuntungannya adalah lebih banyak akuntabilitas dan lebih sedikit kegagalan diam-diam. Sisi negatifnya adalah bahwa batasan untuk “dapat dijelaskan” dan “dapat diaudit” mungkin meningkat lebih cepat daripada yang diperkirakan banyak orang.

Alasan struktural mengapa tren ini mungkin terjadi adalah karena AI semakin mendekati bidang pengambilan keputusan, bukan hanya lapisan penasihat. Ketika keluaran AI tertanam di bagian hilir sistem yang memicu pembayaran, komitmen, atau komunikasi eksternal, kesalahan mewarisi struktur biaya sistem tersebut. Organisasi tidak dapat terus memperlakukan kegagalan sebagai "model keanehan" ketika kegagalan tersebut menyebar ke tindakan yang tidak dapat diubah.

Saat ini, kesalahan sering kali diabaikan dengan regenerasi atau penyesuaian yang cepat. Besok, kesalahan yang sama akan membuang-buang uang, merusak reputasi, atau menimbulkan keterbukaan hukum.

Ketika kesalahan menjadi sebuah harga, organisasi berhenti bertanya apakah keluarannya bermanfaat. Mereka mulai bertanya bagaimana keluaran tersebut dihasilkan, informasi apa yang mereka andalkan, dan apakah proses tersebut dapat diputar ulang atau diaudit.

Sebagai akibat wajar, toleransi terhadap ingatan yang bersifat perkiraan atau ambigu terkikis. Batasan untuk apa yang dianggap cukup baik pertama-tama meningkat ketika kerugian terlihat, kemudian standar tersebut menyimpang ke luar. Ketika kesalahan berakibat fatal, memori yang dapat Anda perbaiki dan lacak menjadi infrastruktur, bukan kenyamanan.

Neotoma menyelaraskan dengan perubahan ini dengan menerapkan asal pada lapisan memori. Fakta disimpan dengan atribusi sumber, stempel waktu, dan peristiwa penyerapan. Koreksi bersifat aditif dan bukan destruktif, memungkinkan tim untuk merekonstruksi dengan tepat apa yang diketahui agen pada saat mengambil keputusan alih-alih menebak-nebak berdasarkan log parsial.

Apa yang harus diperhatikan tahun depan:
1. Kegagalan terkait AI yang muncul dalam postmortem, perselisihan klien, atau konteks hukum.
2. Tim secara eksplisit menanyakan "apa yang diketahui agen saat itu?" setelah kesalahan.
3. Persyaratan penelusuran atau audit ditambahkan ke alur kerja AI secara surut.
4. Insiden publik yang disebabkan oleh kesalahan memori AI; pergeseran bahasa dari "halusinasi" menjadi "kegagalan sistem" pada postmortem.
5. Tim meminta "batalkan fakta ini" atau "kembalikan apa yang diyakini agen" tanpa melakukan reset penuh.
6. "Apa yang diyakini oleh sistem ini dan bagaimana perkembangannya?" dibingkai sebagai kueri melalui grafik yang konsisten, bukan panggilan RAG.

## 3. Audit dan kepatuhan akan menurunkan pasar

Tren serupa: tekanan untuk membuktikan bagaimana pekerjaan dihasilkan dan apa yang diketahui sistem tidak hanya terbatas pada perusahaan besar. Ketika kesalahan menimbulkan kerugian yang nyata—ekonomi, hukum, atau reputasi—tuntutan akan pembelaan dan pencatatan akan mengikuti. Ketika AI tertanam dalam pekerjaan profesional, konsultan, agensi, pekerja lepas teregulasi, dan tim kecil asli AI akan menghadapi harapan yang sama.

Alasan strukturalnya adalah difusi tanggung jawab. Ketika penggunaan AI menjadi normal, tanggung jawab tidak hilang. Itu menyebar. Klien, perusahaan asuransi, dan regulator merespons dengan mencari kontrol kompensasi. Tekanan audit bergerak ke bawah pasar bukan karena tim kecil menginginkannya, namun karena risiko mengikuti penggunaan.

Ketika pertanyaan tentang bagaimana suatu karya dihasilkan menjadi rutinitas, ingatan tanpa sumber menjadi suatu beban dan bukan suatu kenyamanan. Garis waktu terstruktur, penarikan kembali tingkat entitas, dan atribusi sumber mulai berfungsi sebagai infrastruktur defensif.

Neotoma sejalan dengan perubahan ini dengan memperlakukan ingatan sebagai sesuatu yang dapat direkonstruksi dalam waktu, bukan disimpulkan secara retrospektif. Resolusi entitas, urutan waktu, dan asal bukan merupakan tambahan. Mereka adalah inti dari model tersebut.

Apa yang harus diperhatikan tahun depan:
1. Pengungkapan penggunaan AI muncul dalam kontrak, pernyataan kerja, atau pedoman profesional.
2. Permintaan dokumentasi keputusan yang dibantu AI dari klien atau perusahaan asuransi.
3. Individu atau tim kecil secara proaktif menyimpan catatan interaksi AI secara defensif.
4. Peraturan yang secara eksplisit mewajibkan pencatatan atau penjelasan untuk penggunaan AI tertentu.

## 4. Memori platform akan tetap buram

Platform AI besar kemungkinan akan terus mengirimkan fitur memori yang berguna tetapi pada dasarnya tidak jelas. Insentif mereka lebih mengutamakan keterlibatan, retensi, dan optimalisasi model dibandingkan sumber yang dikontrol pengguna atau jaminan kebenaran.

Dampak sosialnya adalah perpecahan antara mereka yang mampu untuk merawat dan mereka yang tidak mampu. Orang dan organisasi yang membutuhkan jaminan kuat (audit, kebenaran, portabilitas) akan membayar alternatif, membangun sendiri, atau menerima risiko. Semua orang akan mengandalkan memori platform dan hidup dengan kesenjangan kepercayaan. Kesenjangan tersebut dapat memperkuat kesenjangan yang sudah ada. Mereka yang memiliki sumber daya yang baik mendapatkan memori yang transparan dan portabel; semua orang mendapatkan kenyamanan dengan persyaratan yang tidak jelas. Seiring berjalannya waktu, norma tentang apa yang dimaksud dengan "data saya" dan "riwayat saya" mungkin berbeda berdasarkan konteks dan siapa Anda. Harapan masyarakat dan profesional (misalnya, Anda dapat menunjukkan karya Anda atau mengekspor catatan Anda) mungkin hanya berlaku untuk beberapa orang.

Alasan struktural mengapa hal ini tetap ada adalah [ketidakselarasan insentif](/posts/building-structural-barriers). Platform mengoptimalkan hasil agregat pada jutaan pengguna, bukan jaminan kebenaran yang diperlukan oleh alur kerja individual. Mengekspos semantik memori, aturan koreksi, atau jaminan pemutaran ulang membatasi kecepatan iterasi dan meningkatkan tanggung jawab. Keburaman bukanlah suatu kebetulan. Itu bersifat protektif.

Memori mungkin meningkat, namun akan tetap sulit untuk memeriksa, mengekspor, memutar ulang, atau mempertimbangkan secara formal, terutama di seluruh alat. Koreksi sering kali bersifat diam-diam, implisit, atau spesifik model.

Hal ini menciptakan kesenjangan kepercayaan yang semakin besar. Pengguna mungkin mengandalkan memori platform untuk kenyamanan sekaligus tidak mempercayainya dalam konteks di mana konsekuensinya penting.

Kedaulatan data menambah tekanan tersendiri: perusahaan dan individu semakin mendesak agar memori agen tetap berada di lingkungan mereka, baik di lokasi, di penyewa, atau di bawah kendali mereka, bukan di cloud vendor.

Neotoma dibangun untuk kesenjangan itu. Desainnya yang bersifat lokal, dapat diperiksa, dan dikendalikan pengguna merupakan alternatif untuk alur kerja yang mengutamakan kebenaran dan asal usulnya. Anda memiliki data dan semantik; Anda dapat mengekspor, mengoreksi, dan mempertimbangkan apa yang diketahui sistem.

Apa yang harus diperhatikan tahun depan:
1. Fitur memori yang meningkatkan daya ingat namun tetap tidak terdokumentasi atau tidak dapat diekspor.
2. Pengguna menanyakan apa yang sebenarnya diketahui oleh sistem – seperti pandangan komprehensif tentang apa yang diyakini, diingat, dan disimpulkan, bukan hanya obrolan mentah atau ekspor – dan tidak mendapatkan jawaban yang jelas.
3. Solusi (misalnya ekspor, sinkronisasi pihak ketiga, replikasi manual) semakin meningkat dibandingkan menyusut.
4. RFP atau persyaratan yang menentukan bahwa memori agen harus tetap berada di lokasi atau di penyewa pengguna.

## 5. Fragmentasi alat akan tetap ada

Meskipun ada narasi berulang mengenai konsolidasi ke dalam satu platform atau ruang kerja AI, pekerjaan pengetahuan kemungkinan akan tetap terfragmentasi. Para profesional sudah beroperasi di berbagai model, editor, kopilot, sistem dokumen, dan kerangka agen.

Alasan strukturalnya adalah alat AI bersifat pelengkap, bukan pengganti. Masing-masing mengoptimalkan bagian alur kerja yang berbeda: ide, eksekusi, pengkodean, pengambilan, komunikasi. Peningkatan kecil tidak akan meruntuhkan tumpukan. Biaya peralihan yang rendah dan iterasi model yang cepat semakin menghambat konsolidasi.

Ketika perluasan alat meningkat, masalah inti bergeser dari fragmentasi antarmuka ke fragmentasi keadaan. Konteks ada di banyak tempat sekaligus, dan tidak ada satu permukaan pun yang mampu memilikinya secara realistis.

Neotoma berada di bawah fragmentasi ini daripada mencoba menyelesaikannya. Dengan mengekspos memori melalui antarmuka protokol, bukan melalui UI tunggal, hal ini memungkinkan beberapa alat dan agen untuk membaca dan menulis ke kondisi dasar yang sama tanpa memaksa konvergensi pada satu alur kerja atau vendor.

Apa yang harus diperhatikan tahun depan:
1. Para profesional mengganti model atau alat di tengah tugas tanpa memigrasikan konteks dengan rapi.
2. Keluhan berulang tentang "kehilangan konteks" antar alat.
3. Tim menstandardisasi alur kerja yang secara eksplisit mencakup beberapa produk AI.

## 6. Penggunaan agen akan diukur

Eksekusi agen juga kemungkinan akan semakin terkendala oleh biaya. Alasan strukturalnya sangat jelas: komputasi menjadi item baris yang terlihat. Tidak diperlukan restrukturisasi ekonomi yang radikal.

Seiring meningkatnya pembelanjaan AI, organisasi memperkenalkan penganggaran, atribusi, dan pengoptimalan. Setelah biaya terlihat, pengukuran akan dilakukan secara alami.

Ketika penggunaan dihargai, inefisiensi dan penyimpangan tidak lagi menjadi masalah abstrak. Menghitung ulang konteks, salah mengingat keputusan sebelumnya, atau mengulangi pekerjaan menjadi sia-sia.

Model memori deterministik Neotoma menjadi relevan di sini karena memisahkan memori tahan lama dari konteks sementara. Dengan mengaktifkan pemutaran ulang, bukan regenerasi, memori diperlakukan sebagai permukaan pengoptimalan, bukan sebagai efek samping inferensi.

Apa yang harus diperhatikan tahun depan:
1. Agen pelacakan tim atau biaya penggunaan model per tugas atau alur kerja.
2. Agen yang sadar anggaran yang mengubah perilaku berdasarkan sisa pembelanjaan.
3. Upaya pengoptimalan difokuskan pada pengurangan inferensi yang berlebihan daripada meningkatkan petunjuknya.

## Bagaimana tren ini berdampak pada demografi utama

Tren ini bertindak sebagai kondisi aktivasi untuk berbagai demografi yang terkena dampak. Neotoma tidak menjadi penting melalui persuasi. Hal ini menjadi penting ketika kenyataan menghilangkan alternatif.

**Operator individu yang menggunakan AI dan pekerja berpengetahuan konteks tinggi** adalah yang pertama: pendiri, konsultan, peneliti, dan pembangun tunggal yang menggunakan AI secara mendalam dalam pemikiran dan eksekusi. Adopsi dibatasi oleh agen stateful, kesalahan yang terlihat secara ekonomi, dan ketidakpuasan terhadap memori platform yang tidak jelas. Ketika keluaran penting secara eksternal (bagi klien, kolaborator, atau pendapatan), ketidakmampuan untuk menjawab "apa yang diketahui sistem saat keluaran ini diproduksi?" menjadi tidak dapat dipertahankan. Neotoma menjadi menarik sebagai sistem pencatatan pribadi yang dapat hidup berdampingan dengan berbagai alat.

**Tim kecil berbasis AI dan tim produk atau operasi hybrid** berada di peringkat kedua. Individu dapat mengkompensasi memori fuzzy. Tim tidak bisa. Ketika agen setiap orang mengingat fakta atau asumsi yang sedikit berbeda, biaya koordinasi akan bertambah. Fragmentasi alat mempercepat hal ini, tekanan audit melegitimasi memori bersama, dan penggunaan terukur mengubah penyimpangan menjadi pemborosan anggaran. Dalam lingkungan ini, Neotoma tidak berfungsi sebagai lapisan produktivitas dan lebih berfungsi sebagai infrastruktur kognitif bersama.

**Integrator pengembang dan pembuat alat AI** yang menyematkan agen ke dalam produk atau platform adalah yang ketiga. Bagi mereka, kegagalan memori adalah kegagalan produksi. Ketika agen menjadi otonom, penarikan kembali yang tidak jelas menjadi tidak dapat diuji dan tidak dapat diterima. Ketika kesalahan memori dibingkai ulang sebagai kegagalan sistem dan bukan kebiasaan, pembuat mulai mencari memori primitif yang berperilaku seperti database, bukan percakapan. Neotoma menjadi relevan di sini sebagai substrat, bukan fitur.

Di seluruh demografi ini, adopsi bersifat kondisional dan bertahap, bukan didorong oleh sensasi.

## Apa yang memalsukan pandangan ini

Visi serius apa pun tentang masa depan harus dapat dipalsukan. Tanpa tanda-tanda jelas yang dapat membuktikan bahwa hal tersebut salah, maka hal tersebut bukanlah sebuah tesis melainkan sebuah keyakinan. Hal ini penting secara langsung bagi strategi produk, karena membangun masa depan yang tidak terwujud hanya akan menghasilkan hal-hal yang tidak relevan dibandingkan adopsi.

Pemalsuan yang paling signifikan adalah platform AI besar yang menghadirkan memori yang benar-benar portabel, dapat diperiksa, dapat diputar ulang, dan dipercaya di seluruh alat. Bukan memori dalam arti pemasaran, namun memori yang dimiliki pengguna, dapat diekspor, eksplisit secara semantik, dan stabil di seluruh konteks. Jika memori asli platform menjadi otoritatif dalam praktiknya (artinya pengguna dan organisasi memercayainya sebagai catatan kanonik tentang apa yang diketahui dan kapan), kebutuhan akan lapisan kebenaran eksternal akan hilang. Di dunia itu, diferensiasi inti Neotoma terkikis, bukan senyawa.

Pemalsuan kedua akan menjadi konsolidasi yang berarti ke dalam satu ruang kerja AI dominan yang memiliki eksekusi, memori, dan perkakas end-to-end. Jika tekanan fragmentasi hilang karena satu permukaan berhasil menyerap tumpukan, leverage media memori bersama akan menurun tajam.

Pemalsuan ketiga adalah agen yang berumur pendek, diawasi dengan ketat, dan murah untuk direset, dengan kegagalan yang terus ditangani terutama dengan memulai ulang daripada mendiagnosis keadaan. Jika agen yang sudah berjalan lama tidak terwujud dan pengaturan ulang tetap menjadi strategi pemulihan yang dominan, memori deterministik tetap menjadi pilihan dan bukan keharusan.

Yang terakhir, jika tekanan audit dan tanggung jawab gagal untuk menurunkan pasar (jika AI tetap bersifat sebagai nasihat dan bukan sebagai konsekuensi bagi sebagian besar profesional), maka memori yang sarat akan asal usul akan tetap berlebihan dalam jangka waktu yang lebih lama dari yang diperkirakan.

Memperhatikan sinyal balasan ini sama pentingnya dengan memperhatikan konfirmasi. Hal ini memberikan peringatan dini bahwa asumsi yang mendorong adopsi sedang melemah dan strategi harus disesuaikan. Sebuah visi yang tidak dapat dipalsukan tidak dapat diperbaiki, dan produk yang dibangun berdasarkan visi tersebut berisiko dirancang dengan baik untuk dunia yang tidak akan pernah terwujud.

## Memori sebagai infrastruktur terbuka dan penting

Ini bukanlah prediksi bahwa dunia menjadi lebih berkomitmen secara filosofis pada kebenaran atau kebenaran.

Ini merupakan prediksi bahwa agen menjadi stateful, kesalahan menjadi mahal, platform tetap buram, alat tetap terfragmentasi, tekanan audit menyebar, dan penggunaan menjadi mahal.

Jika sebagian dari lintasan ini bertahan, memori tidak lagi menjadi fitur UX dan menjadi infrastruktur yang terbuka. Di dunia tersebut, sistem yang memperlakukan memori sebagai keadaan yang deterministik dan dapat diperiksa tidak lagi bersifat visioner. Mereka hanyalah cara termurah untuk menjaga sistem yang kompleks agar tidak gagal secara tidak jelas dan tidak dapat diperbaiki.

Neotoma bukanlah pendorong perubahan itu. Ini adalah salah satu tanggapan yang masuk akal terhadap hal tersebut.