Bill Gates dan Peneliti AI Soroti Risiko Kecerdasan Buatan yang Berkembang Cepat

Berita.co – Peringatan soal risiko kecerdasan buatan (AI) yang berkembang terlalu cepat datang dari dua arah dalam beberapa hari terakhir. Pendiri Microsoft Bill Gates menyebut kemunculan AI tidak seperti teknologi sebelumnya, ia menyamakannya dengan kedatangan spesies asing yang justru diciptakan manusia sendiri.

Pernyataan itu ia sampaikan dalam Konferensi Goalkeepers di New York pada 21 September 2026. Pada hari yang sama, seorang peneliti keamanan AI di Indonesia mengingatkan bahwa ancaman AI terhadap eksistensi manusia nyata kalau perkembangannya dibiarkan tanpa kendali.

Risiko yang dipetakan peneliti AI Indonesia

CNN Indonesia mewawancarai Alva Erwin, anggota AI Safety Institute Indonesia (AISII), soal wacana sejumlah perusahaan AI asal Amerika Serikat, di antaranya OpenAI, Anthropic, dan xAI (pembuat chatbot Grok), yang mempertimbangkan memperlambat laju pengembangan model mereka.

Menurut Erwin, spektrum risiko AI bergerak dari level rendah sampai risiko katastropik yang bisa mengancam keberadaan manusia kalau tidak dikendalikan.

Erwin membagi ancaman itu ke dalam empat domain:

• Risiko internal model, seperti halusinasi, bias, dan potensi munculnya super-intelligence.
• Penyalahgunaan dengan niat jahat, misalnya untuk serangan siber atau disinformasi lewat deepfake.
• Dampak sosio-ekonomi-lingkungan, seperti disrupsi tenaga kerja, krisis privasi, dan kebutuhan energi serta air yang tinggi.
• Kerapuhan sistem dan regulasi yang lambat mengejar laju perkembangan teknologinya.

Kalau kamu penasaran kenapa AI dianggap bisa lepas kendali, salah satu alasan teknisnya ada pada kemampuan yang disebut recursive self-improvement, yaitu kondisi saat model AI meriset, memperbaiki, dan melatih dirinya sendiri tanpa campur tangan manusia.

Erwin menyebut kemampuan ini berpotensi memicu lompatan kecerdasan yang sulit diawasi manusia, bukan sekadar model yang makin pintar secara bertahap seperti biasanya.

Erwin juga mengakui perdebatan soal ancaman AI ini tidak lepas dari dinamika geopolitik Amerika Serikat dan China.

Sebagian pihak curiga narasi bahaya AI dan seruan untuk memperlambat riset hanya dipakai sebagai fearmongering, cara menghambat kemajuan pihak lawan sekaligus menjaga keunggulan kompetitif industri tertentu.

Dampaknya ke arah pengembangan industri AI

Kalau perlambatan ini benar terjadi, Erwin memperkirakan arah persaingan AI ikut berubah. Industri disebut akan bergeser dari sekadar memperbesar ukuran model (frontier scaling) menuju optimalisasi model yang lebih ramping, misalnya lewat arsitektur RAG yang presisi dan metode kompresi (quantization) untuk efisiensi.

Erwin juga memperkirakan bakal ada pengawas independen yang mirip regulator perbankan atau pasar modal, meski ini menambah beban biaya kepatuhan yang kemungkinan cuma sanggup dipenuhi raksasa teknologi.

Di sisi lain, kalau model tertutup melambat, komunitas open source berpotensi mengisi kekosongan itu, kecuali regulasi juga membatasi akses ke perangkat keras seperti GPU.

Bill Gates: AI seperti spesies baru yang diciptakan manusia

Dari sisi lain, SindoNews melaporkan pernyataan Gates dalam Konferensi Goalkeepers, yang mengutip AIBase sebagai sumber kutipannya. Gates yang berusia 70 tahun mengatakan sekitar setahun lalu ia kagum dengan kemajuan AI yang mampu mengerjakan tugas pemrograman yang dulu butuh waktu lama baginya untuk dikuasai.

Ia menyebut AI sekarang tidak cuma bisa menulis kode, tapi juga meneliti kode, menemukan kerentanan, dan berpotensi menembus berbagai sistem.

Yang membuat Gates khawatir bukan cuma kemampuan teknisnya. Menurutnya, meski industri teknologi sudah membahas risiko yang terkait, partisipasi dan diskusi di tingkat masyarakat umum belum cukup luas.

Dengan kata lain, kesenjangannya bukan pada teknologinya sendiri, tapi pada seberapa siap masyarakat memahami dan merespons risiko itu.

Kedua peringatan ini datang dari sudut yang berbeda. Erwin memetakan risiko AI secara teknis dan terstruktur, dari level rendah sampai katastropik, lengkap dengan mekanisme seperti recursive self-improvement.

Gates bicara dari sisi kesenjangan diskusi publik, bukan detail teknis. Keduanya sama-sama sepakat pada satu titik, laju kemampuan AI saat ini berjalan lebih cepat dibanding kesiapan regulasi dan pemahaman publik untuk mengimbanginya.

Kalau kamu mengikuti perkembangan AI, dua kerangka ini bisa jadi pegangan untuk menilai klaim risiko AI yang beredar, mana yang berbasis mekanisme teknis dan mana yang berbasis kekhawatiran soal kesiapan sosial.