CEO Anthropic Sebut AI Bisa Lepas Kendali dalam Hitungan Bulan, Trump Anggap Itu Hoaks

Enam sampai 12 bulan perkiraan waktu yang disebut bos perusahaan AI sendiri untuk sebuah sistem kecerdasan buatan bisa, dalam skenario terburuk, mengambil alih kendali atas internet. Angka itu datang bukan dari pengkritik AI dari luar, tapi dari CEO Anthropic, Dario Amodei, lewat esai sepanjang 3.800 kata yang ia rilis Sabtu (12/9).

Amodei menulis bahwa laju peningkatan kemampuan model AI perlu diperlambat. Alasannya, menurutnya, kemajuan yang terlalu cepat bisa melampaui kemampuan manusia untuk memahami dan mengendalikan sistem yang mereka bangun sendiri.

Ia menyebut risikonya bukan cuma teoretis, mulai dari potensi penyalahgunaan untuk serangan siber, bioterorisme, sampai gangguan ekonomi yang menurutnya bisa merugikan ratusan miliar dolar. Pernyataan ini disampaikan Amodei dalam wawancara dengan Anderson Cooper pada Sabtu yang sama.

Apa itu “recursive self-improvement” dan kenapa itu yang bikin takut?

Istilah yang dipakai Amodei untuk menjelaskan skenario terburuknya adalah “recursive self-improvement” atau RSI. Sederhananya, RSI adalah kondisi ketika sebuah model AI mampu memperbaiki dan meningkatkan kemampuannya sendiri, lalu hasil peningkatan itu dipakai lagi untuk meningkatkan dirinya lebih jauh, berulang-ulang tanpa banyak campur tangan manusia di tengah prosesnya.

Bagi kamu yang memakai AI sehari-hari untuk kerja atau belajar, RSI bukan fitur yang akan muncul di aplikasi chatbot kamu minggu depan. Ini lebih ke skenario jangka panjang yang dikhawatirkan orang-orang di balik pengembangan model itu sendiri. Yang relevan buat kamu justru dampak turunannya, yaitu ketidakpastian arah regulasi yang bisa memengaruhi fitur apa yang boleh dirilis dan seberapa ketat pagar pengamannya.

Peneliti mundur, eksekutif lain ikut angkat suara

Peringatan Amodei muncul setelah seorang mantan peneliti Anthropic, Jacob Coxon, mengundurkan diri. Coxon menulis di X pada Selasa (8/9) bahwa banyak eksekutif dan peneliti senior menyusun kalimat mereka di depan media agar terdengar masuk akal, padahal secara pribadi mereka mengungkapkan ketakutan yang lebih besar. Ia menyebut tidak ada aktivitas manusia lain yang menimbulkan tingkat bahaya sebesar pengembangan AI saat ini.

Setelah esai Amodei terbit, sejumlah pemimpin industri lain ikut merespons secara positif di media sosial. CEO OpenAI Sam Altman menyatakan setuju perlunya mengatur laju teknologi terdepan. Kepala Google DeepMind, Demis Hassabis, menulis bahwa arah esai itu sudah benar meski detailnya perlu dibahas lebih lanjut. CEO Tesla dan SpaceX, Elon Musk, menambahkan bahwa tinjauan sejawat atau peer review terhadap AI oleh para pesaing adalah cara yang tepat untuk memulai pengawasan tersebut, sebagaimana dikutip detikInet.

Amodei sendiri mengusulkan rencana tiga langkah, dimulai dari memberi akses setingkat karyawan kepada evaluator pihak ketiga untuk memverifikasi praktik keamanan Anthropic, dilanjutkan dengan koordinasi standar keamanan antar perusahaan AI di negara demokratis, dan langkah ketiga berupa koordinasi lebih luas antara pemerintah demokratis dengan pemerintah otoriter.

Bagian yang bikin usulan ini rumit untuk dijalankan adalah soal China. Amodei mengakui dilema terbesarnya adalah kemungkinan Amerika Serikat kalah bersaing di ranah AI kalau memperlambat laju pengembangan sementara negara rival tidak melakukan hal yang sama. Model AI dari startup China dilaporkan mulai menyaingi produk unggulan perusahaan Amerika seperti OpenAI dan Anthropic dalam beberapa bulan terakhir.

Presiden China Xi Jinping pada hari Minggu menyerukan kerangka tata kelola AI global berbasis konsensus dalam KTT BRICS di India, dan menyatakan China akan membantu mendirikan komunitas open source AI BRICS. Presiden AS Donald Trump sendiri dijadwalkan bertemu Xi di Gedung Putih pada 24 September, dengan isu AI diperkirakan turut dibahas.

Respons Gedung Putih, dari hoaks sampai telepon ke bos Nvidia

Sementara para eksekutif AI mendesak perlambatan, Trump justru bereaksi sebaliknya. Dalam rentetan unggahan di Truth Social pada Senin (14/9), ia menyebut kekhawatiran soal AI menghancurkan dunia sebagai hoaks, dan membandingkannya dengan isu pemanasan global yang menurutnya juga hoaks. Hingga Senin malam waktu setempat, Trump tercatat sudah mengunggah enam pernyataan soal isu ini.

Trump juga menelepon CEO Nvidia Jensen Huang untuk menegaskan bahwa robot tidak akan mengambil alih dunia. Ia menyebut penggunaan AI pribadinya terbatas pada pembuatan gambar untuk media sosial. Wakil Presiden JD Vance menambahkan kecurigaannya terhadap motivasi para eksekutif teknologi yang justru meminta pemerintah mengatur mereka lebih ketat, meski ia mengakui ada risiko nyata dari AI selain manfaatnya.

Jadi, mana yang harus kamu percaya?

Di sinilah letak masalahnya buat kamu sebagai pengguna AI sehari-hari. Orang yang paling paham cara kerja model AI dari dalam, dalam hal ini bos perusahaan yang membuatnya, justru yang paling waswas. Sementara pemerintah yang punya wewenang mengatur teknologi ini malah menyebut kekhawatiran itu berlebihan. Tidak ada pihak yang bisa disebut menang mutlak dalam perdebatan ini.

Kalau laju pengembangan AI diperlambat demi keamanan seperti usulan Amodei, konsekuensinya AS berisiko tertinggal dari China dalam kompetisi teknologi ini. Sebaliknya, kalau laju pengembangan tetap dipacu penuh seperti sikap Gedung Putih saat ini, risiko yang menurut pembuatnya sendiri belum sepenuhnya terkendali itu tetap ada di depan mata. Bukan soal mana yang benar, tapi risiko mana yang lebih bisa kamu terima.