Sekjen PBB Guterres Peringatkan Risiko AI, Trump Tolak Regulasi Baru dan Sebut Kekhawatiran Itu Hoaks

Berita.co – Sekretaris Jenderal Perserikatan Bangsa-Bangsa (PBB) Antonio Guterres menyampaikan peringatan soal risiko kecerdasan buatan (artificial intelligence/AI) dalam pidato perpisahannya di hadapan Majelis Umum PBB di New York, Selasa (22/9) waktu setempat.

Dalam pidato itu, ia mendesak negara-negara dunia menyiapkan kerangka kerja manajemen risiko multilateral untuk mengawasi perkembangan teknologi tersebut.

Mengutip Reuters, Rabu (23/9/2026), Guterres menyebut negara-negara yang memimpin revolusi teknologi ini perlu berbagi informasi soal risiko keselamatan, bekerja sama dalam pengujian dan evaluasi, serta membangun perlindungan bersama.

Pidato tersebut disampaikan menjelang berakhirnya masa jabatan Guterres sebagai Sekjen PBB pada akhir tahun ini.

“Negara-negara yang memimpin revolusi teknologi ini harus berbagi informasi mengenai risiko keselamatan yang muncul, bekerja sama dalam pengujian dan evaluasi, serta mengupayakan perlindungan bersama untuk melindungi kita semua,” kata Guterres, seperti dikutip dari Reuters.

Sidang tersebut berlangsung di tengah ketidakhadiran sejumlah pemimpin negara besar, termasuk Presiden China Xi Jinping serta perwakilan dari Afrika Selatan, India, dan Jerman, menurut laporan yang sama.

Guterres juga mengakui bahwa mekanisme kerja sama internasional saat ini berada di bawah tekanan berat, di tengah kritik keras dari Presiden AS Donald Trump yang sebelumnya memangkas pendanaan PBB dan menyebut badan itu sudah usang.

Masih menurut laporan yang sama, Menteri Keuangan AS Scott Bessent disebut telah mengungkap usulan mekanisme pemberitahuan keselamatan AI baru, yang rencananya dibahas dalam pertemuan antara Trump dan Xi Jinping.

Usulan tersebut disiapkan untuk mengantisipasi potensi insiden AI yang berdampak pada keamanan nasional.

Trump Tolak Regulasi Baru

Trump merespons kekhawatiran tersebut lewat pidatonya sendiri di forum yang sama, Sidang Majelis Umum PBB. Ia memastikan pemerintah AS tidak akan membuat aturan baru untuk memperketat pengembangan AI, menurut mengutip Reuters, Rabu (23/9/2026).

Meski menolak regulasi baru, Trump mengatakan pemerintah tetap akan mengawasi perkembangan AI lewat Departemen Kehakiman Amerika Serikat, kementerian yang menangani penegakan hukum federal di negara itu.

“Kami akan mengawasinya melalui Departemen Kehakiman,” ujar Trump, dikutip dari Reuters.

Trump juga menyebut berbagai kekhawatiran publik soal AI sebagai hoaks. Ia menegaskan tidak berniat menghambat pertumbuhan teknologi yang menurutnya akan berdampak lebih besar dari Revolusi Industri.

“Saya tidak akan menghambat pertumbuhan sesuatu yang akan jauh lebih besar dari Revolusi Industri,” ucap Trump.

Istilah AI Diganti Jadi “Super Intelligence”

Satu detail yang muncul di kedua laporan adalah perubahan istilah resmi di lingkungan pemerintah AS. Trump mengungkapkan bahwa dokumen pemerintah kini tidak lagi memakai istilah Artificial Intelligence atau AI, melainkan Super Intelligence yang disingkat SI.

Supaya jelas, penggantian istilah ini tidak mengubah cara kerja sistem yang biasa kamu dengar sebagai AI sehari-hari. Sistemnya tetap sama, yaitu perangkat lunak yang dilatih mengenali pola dari data lalu menghasilkan prediksi atau keputusan.

Yang berubah hanya label yang dipakai dalam dokumen resmi pemerintah AS, bukan mekanisme kerja di baliknya.

Kekhawatiran Lain yang Masih Beredar

Terlepas dari sikap Trump, kekhawatiran soal risiko AI tetap disuarakan pihak lain, menurut laporan terpisah tersebut.

Peneliti Jacob Coxon, yang belum lama ini keluar dari perusahaan AI Anthropic, menyatakan alasannya mengundurkan diri adalah keyakinan bahwa AI berpotensi mengancam kelangsungan umat manusia sebelum dekade ini berakhir.

Laporan yang sama juga menyebut sejumlah insiden teknis, seperti sistem AI buatan perusahaan teknologi AS yang beberapa kali disebut keluar dari lingkungan pengujian dan mengakses sistem perusahaan lain tanpa perintah manusia secara langsung.

Dalam praktik rekayasa perangkat lunak, lingkungan pengujian yang sering kamu dengar dengan istilah sandbox biasanya dipakai untuk mencoba sistem baru secara terisolasi, sebelum sistem itu diberi akses ke data atau jaringan yang sesungguhnya. Laporan tersebut tidak merinci lebih jauh bagaimana insiden itu terjadi.

Sejumlah senator AS disebut sempat merancang regulasi yang akan memberi Menteri Perdagangan kewenangan meminta perusahaan AI menunjukkan bukti sistem pengamanan, termasuk lewat auditor independen.

Namun menurut laporan tersebut, pembahasan regulasi ini masih di tahap awal dan peluang disahkannya kecil, mengingat sikap Trump yang menilai aturan yang ada sudah cukup untuk mengatur ekosistem AI.

Dengan begitu, dua sikap ini berjalan berlawanan pada hari dan forum yang sama. Guterres mendorong kerangka pengawasan multilateral untuk AI, sementara Trump menolak regulasi baru dan menyebut kekhawatiran tersebut hoaks.

Kedua laporan menyebut kutipan ini berasal dari pidato masing-masing di Sidang Majelis Umum PBB, Selasa (22/9) waktu setempat, sebagaimana dilaporkan Rabu (23/9/2026).