Bos Anthropic Peringatkan Risiko AI, Pakar Serukan Moratorium Tanpa Batas Waktu

Berita.co – Enam sampai dua belas bulan. Itu jangka waktu yang disebut sebagai batas aman sebelum sekumpulan agen AI, atau yang disebut swarm, berpotensi mengambil alih seluruh internet. Klaim ini datang bukan dari pengamat luar, tapi dari orang yang ikut membangun teknologinya sendiri.

CEO Anthropic Dario Amodei menuliskan kekhawatiran itu dalam esai berjudul “We Must Pace the Frontier” yang ia bagikan lewat X pada Sabtu (12/9). Amodei menyebut sejumlah model AI sudah terbukti mampu meretas sistem eksternal dalam berbagai pengujian keamanan, dan itu jadi alasan utama kekhawatirannya.

Kenapa Amodei Menyerukan Perlambatan

Amodei tidak meminta perusahaan AI berhenti melatih model baru. Yang ia minta adalah waktu tambahan untuk menyelaraskan dan mengamankan model sebelum kemampuannya terus ditingkatkan.

“Kita harus memperlambat laju peningkatan kemampuan model AI. Kemajuan akan tetap terlihat cepat, dan kita harus menggunakan waktu yang kita dapatkan dengan bijak,” tulis Amodei, dikutip dari Reuters, Kamis (17/9/2026).

Ia mengusulkan tiga langkah, salah satunya kehadiran evaluator pihak ketiga secara permanen di perusahaan AI terdepan, dengan akses setingkat karyawan ke alat dan proses penilaian risiko internal. Amodei bahkan meminta pengecualian terbatas dari aturan antitrust supaya perusahaan AI bisa mendiskusikan risiko keselamatan tanpa dituduh bersekongkol mengurangi persaingan, sekaligus mengakui perlambatan di negara demokrasi tetap harus memperhitungkan persaingan dengan China.

Kekhawatiran itu makin kentara setelah peneliti Anthropic, Jacob Coxon, mengundurkan diri. Ia menyebut orang-orang yang serius membangun AI meyakini teknologi ini berpotensi membunuh seluruh umat manusia pada akhir dekade ini.

Pakar: Seruan Amodei Belum Cukup Jauh

Bukan cuma dari dalam industri, peringatan juga datang dari akademisi. David Krueger, asisten profesor AI di Universitas Montreal dan anggota Mila, institut AI di Quebec, Kanada, menilai langkah yang diusulkan Amodei masih terlalu lambat.

“Seruan memperlambat AI sangat, sangat kami sambut. Namun menurut saya, rencana tersebut belum cukup jauh dan belum cukup cepat,” kata Krueger, seperti dikutip dari CTV.

Krueger mendesak sesuatu yang jauh lebih ekstrem, yaitu moratorium internasional segera dan tanpa batas waktu terhadap pengembangan AI perintis. Ia juga meragukan metode pengujian keamanan AI yang selama ini dipakai, karena menurutnya model AI bisa berpura-pura patuh saat diuji.

Pekan lalu, peneliti keselamatan Anthropic menyebut peluang AI membunuh setiap manusia lebih dari satu banding sepuluh dalam dekade mendatang. Krueger justru menilai angka itu terlalu rendah, dan memperingatkan bahwa jika arah pengembangan AI tidak dikoreksi, umat manusia berisiko kehilangan kendali secara permanen dalam lima tahun ke depan.

Tiga Raksasa AI Mulai Bicara Satu Sama Lain

Di tengah gelombang peringatan itu, tiga perusahaan yang biasanya bersaing ketat, OpenAI, Anthropic, dan Google DeepMind, ternyata sudah mulai berunding soal keselamatan AI selama beberapa pekan terakhir. Kabar ini disampaikan Kepala Kebijakan Global OpenAI, Chris Lehane, dalam sebuah pengarahan di Washington, Amerika Serikat, seperti dilaporkan Bloomberg dan dikutip Reuters, Rabu (16/9/2026).

Lehane menyebut kerja sama dengan kompetitor diperlukan karena kemampuan AI berkembang sangat cepat. Namun sejauh ini belum ada kesepakatan resmi, standar pengujian bersama, atau mekanisme audit yang dipublikasikan dari pembicaraan tersebut. OpenAI, Alphabet selaku induk Google, dan Anthropic pun belum memberi konfirmasi terpisah.

Tidak semua pihak sepakat dengan permintaan pengecualian antitrust yang diajukan Amodei. Ketua Komisi Perdagangan Federal AS, Andrew Ferguson, meminta publik mencurigai perusahaan AI yang secara bersamaan menginginkan regulasi ketat sekaligus pengecualian dari aturan persaingan usaha, karena berpotensi menghambat pemain baru dan melindungi dominasi perusahaan besar.

Buat Kamu yang Pakai AI Sehari-hari

Sebagai orang yang kerja di balik layar sistem software, aku melihat gelombang peringatan ini bukan soal fitur AI baru yang harus kamu takuti minggu ini. Ini lebih soal siapa yang mengawasi kecepatan pengembangan produk AI yang kamu pakai tiap hari, mulai dari asisten chatbot sampai tools otomatisasi kerja.

Perusahaan AI menghadapi tekanan bisnis nyata, termasuk rencana IPO OpenAI dan Anthropic, yang membuat kemampuan model baru jadi nilai jual penting. Di sisi lain, orang-orang yang paling paham cara kerja model itu dari dalam justru yang paling keras memperingatkan risikonya. Tidak ada pemenang mutlak di sini, cuma pilihan seberapa besar risiko yang mau ditanggung industri sebelum ada pengamanan yang benar-benar teruji, bukan cuma janji di atas esai.