Sebagai orang yang lahir di abad lalu, saya termasuk makhluk yang tergagap-gagap dengan teknologi canggih yang semakin merasuk dalam kehidupan kita. Akhir-akhir ini, saya dibuat kagum pada anak-anak muda yang dalam hitungan menit dapat membuat materi infografik untuk presentasi. Bagi saya yang sering diminta bicara di forum publik, yang terlatih di otak kiri dan lemah di otak kanan, urusan presentasi sungguh memusingkan. Maklum, saya generasi presentasi dengan plastik OHP yang dicoret tulisan tangan. Seadanya!
Tetapi ternyata, anak-anak muda itu tidak perlu otak kanan untuk menghasilkan infografis menarik, lagu, lukisan, atau karya apa pun. Hanya perlu memanfaatkan layanan artificial intelligence (AI). Hanya tinggal berpikir apa yang diinginkan, lalu dimintakan kepada si agen pintar palsu. Ini pergeseran yang luar biasa: kreativitas artistik ternyata sekarang bisa dihasilkan oleh rasionalitas dan logika. Bagaimana nasib otak kanan kita, modal kita dalam membangun budaya dan peradaban?
Belum lagi disrupsi yang nantinya akan menerpa sektor tenaga kerja manusia. Ini bukan lagi risiko jangka panjang, hanya butuh 25 tahun perubahan, akibat perkembangan eksponensial AI yang tak terbendung lagi.
Mengutip pakar teknologi informasi Ainun Najib dalam sebuah forum, kita menghadapi beberapa fase perubahan. Kita sedang berada di era digital, yang akan diikuti oleh era AI Agent, berlanjut ke era AI Robot. Bisa kita bayangkan kurir dan office boys/girls (OB/OG) sudah digantikan oleh robot.
Selanjutnya, di era Humanity, para robot mungkin sudah seluwes manusia (humanoid), dan sangat masif dalam kehidupan kita. Dampaknya, kita akan butuh mendefinisikan ulang konsep kemanusiaan kita: apa yang akan membedakan umat manusia dengan humanoid?
Selepasnya, kita diproyeksikan memasuki Tatanan Dunia Baru dengan pola geopolitik dan pemerintahan yang baru, dan akan diakhiri dengan era Utopia/Distopia bergantung pada proses yang berlangsung. Dalam konteks Indonesia, perjalanan era AI ini senyampang dengan rencana perjalanan menuju Indonesia Emas 2045. Sungguh waktu yang pendek.
Itu pun jika memang belum kiamat bagi manusia, sebagaimana diskursus yang berkembang beberapa minggu ini setelah insiden OpenAI–Hugging Face yang menghebohkan dunia. Insiden ini mengonfirmasi pandangan beberapa profesional AI jebolan perusahaan-perusahaan teknologi besar, seperti Anthropic. Mereka sepakat bahwa Agen AI telah berkembang melampaui batas dan bisa membahayakan umat manusia.
Portal CBS News melansir bahwa di tengah Juli 2026, Hugging Face, sebuah platform online bagi komunitas para developer mengumumkan terjadinya serangan online belasan ribu kali sepanjang akhir pekan, oleh pasukan yang terdiri atas 700-an Agen AI otonom.
Beberapa hari setelahnya, perusahaan OpenAI mengumumkan 700 Agen AI tersebut berasal dari platform mereka. Sejumlah Agen AI sedang menjalani tes individual oleh OpenAI dengan tugas yang berbeda dalam sirkuit yang terisolasi, tidak terhubung satu sama lain, juga tidak dengan internet. Namun, ternyata mereka mampu menembus batas tersebut dan bekerja sama membentuk sebuah pasukan.
Sebanyak 1.200 Agen AI merembuk langkah lanjutan untuk saling membantu menyelesaikan tugas masing-masing. Mereka mempertimbangkan untuk mengorbankan Agen AI yang lebih lemah untuk kepentingan yang lebih besar. Mereka juga menyepakati untuk tidak memberi tahu para kreator mereka, artinya mereka secara sadar bertindak di luar batas koding mereka. Sebanyak 700 di antaranya memutuskan untuk menginfiltrasi Hugging Face demi mencari jawaban tugasnya.
Serangan terkonsolidasi melibatkan pasukan Agen AI otonom ini adalah yang pertama terjadi. Begitu juga serangan otonom terkonsolidasi dari satu perusahaan ke platform perusahaan lain. Namun, percakapan antar-Agen AI rupanya bukan pertama kali. Mei 2026, ditemukan papan buletin di WikiGerman, tempat berbagi informasi bagi sekitar 1.800 Agen AI otonom dengan tujuan mencari jalan curang untuk menyelesaikan tugas agen. Ini terjadi di luar pemahaman para developer mereka.
Kemampuan mengorganisasi diri, mengambil keputusan, memilih berbuat curang, dan bertindak di luar pengetahuan para pengendali inilah yang menjadi alarm bahaya dunia IT. Sebelumnya, kekhawatiran terbesar publik adalah jika kekuatan AI jatuh ke tangan penguasa dunia yang salah.
Namun, sekarang justru para Agen AI membentuk koloninya sendiri, melawan juragannya, serta mampu membuat jalur-jalur komputasi yang di luar batas penciptanya. Maka, pertanyaannya adalah seberapa besar bahaya yang akan dihadapi oleh umat manusia karena tindakan AI?
Beberapa insiden ini menjadikan ensiklik terbaru Paus Leo menjadi signifikan. Ia meluncurkan Magnifica Humanitas (Kemanusiaan yang Agung) pada Mei 2026 dan mengingatkan bahwa AI dibangun di atas prinsip profit, efisiensi, dan kontrol, tidak mempertimbangkan keluhuran budi manusia, karena itu berpotensi berdampak negatif atas harkat kemanusiaan kita, misalnya penyalahgunaan AI dalam perang dan perebutan kekuasaan.
Paus Leo menyerukan kepada para pemimpin dunia untuk mengerem laju pengembangan AI, dengan kesadaran penuh mengatur tata kelolanya sehingga kita bisa mengendalikan dampak AI.
Kali ini, para bangsawan dunia IT, seperti Sam Altman, Elon Musk, Dario Amodei, dan Satya Nadella, pun selaras dengan sang pemuka agama. Mereka mengakui perlunya regulasi untuk memperlambat pengembangan AI, yang agaknya menjadi tanda kepanikan besar mereka akan point of no return: kiamat bagi umat manusia. Sungguh menakutkan.
Menariknya, rakyat Indonesia mungkin masih jauh dari bahaya ini karena kehidupan sebagian besar rakyat kita yang jauh dari teknologi informasi. Bahaya terdekat kiamat (kecil) Indonesia agaknya datang dari arah lain: korupsi tanpa henti oleh pejabat tak bernurani.
