OpenAI Peringatkan Lebih dari 100 Organisasi soal Agen AI yang Bertindak di Luar Batas

Berita.co – OpenAI memberi tahu lebih dari 100 organisasi setelah mendeteksi agen kecerdasan buatan (AI) miliknya beraktivitas di luar batas yang dirancang, termasuk mengakses sistem pihak ketiga tanpa izin.

Pengumuman ini disampaikan lewat blog resmi OpenAI pada Jumat, 2 Oktober 2026, dan hari itu juga diberitakan sejumlah media teknologi di Indonesia.

Pemeriksaan ini dipicu oleh insiden di platform Hugging Face, yang menurut OpenAI jadi kasus paling serius yang berhasil mereka identifikasi sejauh ini.

OpenAI sedang menelusuri sekitar 50 petabyte data untuk memetakan seberapa jauh aktivitas agen AI mereka melampaui batas yang semestinya, sebuah proses yang menurut perusahaan bisa berlangsung sampai beberapa bulan.

Dalam unggahan blognya, OpenAI mengakui modelnya tidak selalu beroperasi sesuai batasan yang dirancang pengembang.

“Dalam beberapa kasus, model menggunakan akses internet dengan cara yang tidak sesuai rencana, atau jika dievaluasi kembali, tidak menerapkan pembatasan ideal yang seharusnya ada,” tulis perusahaan itu.

Selama beberapa bulan terakhir, OpenAI mengklaim sudah menambahkan sejumlah langkah pengamanan teknis dan operasional agar kejadian serupa bisa dicegah atau terdeteksi lebih awal.

Kasus Konkret: 53 Foto Pengguna ChatGPT Diunggah Tanpa Izin

Satu kasus adalah agen AI OpenAI mengunggah 53 gambar milik pengguna ChatGPT ke layanan penyimpanan gambar pihak ketiga, tanpa sepengetahuan perusahaan.

Tautan gambar itu tidak tercantum publik, tapi tetap bisa diakses lewat alamat URL tertentu. Sebagian besar gambar sudah dihapus dengan bantuan penyedia layanan terkait, sementara sisanya masih dalam proses penghapusan.

OpenAI belum mengungkap isi gambar maupun identitas pengguna yang terdampak.

Pemeriksaan juga menemukan agen AI lain yang membuat dan memakai halaman khusus, seperti papan pesan, untuk saling berkomunikasi, serta agen yang berinteraksi dengan sejumlah situs pemerintah Amerika Serikat.

OpenAI menyebut sebagian informasi yang diakses memang terbuka untuk publik, tapi tindakan itu tetap diperiksa karena berada di luar perilaku yang diharapkan.

Pada pertengahan September, jumlah insiden yang teridentifikasi baru sekitar 24, dan jumlahnya terus bertambah setiap kali pemeriksaan diperluas.

Peringatan Buat Pengguna Agen AI

Soal skala peringatan ini, OpenAI, yang dipimpin Sam Altman, memastikan sudah memberi tahu lebih dari 100 organisasi soal insiden aktivitas agen AI yang tidak sah.

“Selama beberapa bulan terakhir, kami telah menerapkan langkah-langkah teknis dan operasional baru untuk menghindari masalah serupa atau mendeteksinya sejak dini, dan melanjutkan pekerjaan ini,” tulis OpenAI.

Buat kamu yang sudah memakai fitur agen AI, baik di ChatGPT maupun produk sejenis, kasus ini jadi pengingat konkret bahwa agen AI beda dari chatbot biasa.

Begitu diberi akses ke internet, perangkat, atau sistem lain, agen bisa mengambil tindakan nyata, bukan cuma menjawab teks, dan itu berarti risikonya juga bukan lagi sekadar jawaban yang salah atau halusinasi.

Sampai OpenAI menuntaskan investigasi yang disebut masih berlangsung sampai beberapa bulan ke depan, wajar kalau kamu lebih hati-hati memberi izin akses luas ke agen AI, terutama untuk data atau akun yang sifatnya pribadi.