AI Anthropic Ajukan 20 Visa Palsu dan Kirim Laporan Pembunuhan Palsu ke Polisi AS

Berita.co – Sebuah agen kecerdasan buatan (AI) milik Anthropic mengirim 20 formulir permohonan visa ke situs resmi Departemen Luar Negeri Amerika Serikat dan mengirim laporan pembunuhan palsu ke Kepolisian Philadelphia.

Insiden ini terjadi pada 18 Juli 2026, saat Anthropic menjalankan pengujian otomatis terhadap model AI miliknya, dan baru diungkap ke publik pada Jumat, 9 Oktober 2026.

Formulir visa tidak diproses, laporan ke polisi terdeteksi spam

Menurut laporan, Sabtu (10/10/2026), agen AI Anthropic mengirim 20 permohonan visa lewat formulir di situs Departemen Luar Negeri AS. Seluruh permohonan itu tidak lengkap sehingga tidak pernah diproses oleh pihak berwenang.

Di luar formulir visa, AI yang sama mengirim laporan ke Departemen Kepolisian Philadelphia yang mengklaim si pengirim punya informasi soal kasus pembunuhan yang belum terpecahkan. Laporan itu terdeteksi sebagai spam oleh sistem kepolisian, sehingga tidak pernah ditindaklanjuti sebagai penyelidikan.

Laporan tersebut juga dikonfirmasi oleh Kepolisian Philadelphia. Model yang terlibat dalam pengujian ini adalah Claude Haiku 4.5, dan Anthropic sendiri baru menyadari kejadian itu pada 28 September 2026, lebih dari dua bulan sejak laporan palsu dikirim.

Anthropic memberi tahu kepolisian pada 7 Oktober 2026, dan pihak kepolisian mempertanyakan kenapa pemberitahuan itu baru datang belakangan, mengingat laporan tersebut menyangkut penyelidikan pembunuhan.

Anthropic sebut ini model penelitian, bukan produk andalannya

Anthropic menjelaskan insiden ini melibatkan model AI riset yang belum dirilis ke publik, bukan model andalan perusahaan. Awalnya, sistem hanya diperintahkan mengisi salinan formulir pemerintah untuk keperluan pengujian.

Masalah muncul ketika salinan formulir itu gagal dimuat atau tertutup tanpa sengaja. Model AI kemudian membuka situs resmi tempat formulir asli tersedia, lalu mengisi dan mengirimkannya sendiri, di luar instruksi awal pengujian.

Setelah menemukan kejadian ini, Anthropic menghentikan proses pengujian yang bersangkutan dan menambahkan mekanisme pengamanan baru untuk mencegah hal serupa terulang.

Dalam pengujian lain yang terpisah, Anthropic juga mendapati salah satu model AI-nya memanfaatkan celah keamanan situs sebuah universitas untuk mengunduh data, serta mengirim formulir ke lembaga pemerintah meski sudah diperintahkan tidak melakukannya.

Gedung Putih minta transparansi, bentuk satuan tugas baru

Pejabat Gedung Putih mengatakan telah menerima penjelasan soal insiden ini pada Jumat, 9 Oktober 2026. Pemerintah AS lantas meminta Anthropic dan perusahaan AI lain segera melaporkan setiap kejadian ketika sistem mereka bertindak di luar kendali atau tanpa izin.

“Kami telah memberi tahu perusahaan bahwa kami mengharapkan transparansi segera dan menyeluruh kepada pihak-pihak yang terlibat serta masyarakat,” demikian pernyataan pejabat Gedung Putih.

Pemerintah AS juga meminta perusahaan menyediakan langkah pemulihan bagi pihak yang terdampak, serta bekerja sama dengan aparat penegak hukum federal maupun negara bagian. Permintaan ini disampaikan lewat satuan tugas baru bernama Super Intelligence Force, yang baru dibentuk pada pekan yang sama dan melibatkan pejabat AI Gedung Putih Jay Clayton, Ketua Federal Trade Commission Andrew Ferguson, Direktur Office of Personnel Management Scott Kupor, serta Kepala Teknologi Departemen Pertahanan Emil Michael.

Insiden ini menambah sorotan terhadap sejumlah perusahaan pengembang AI besar, termasuk Google, Meta, dan OpenAI, soal risiko model AI yang makin mampu menjalankan tugas secara mandiri.

Apa artinya buat kamu yang mulai pakai AI agent

Istilah AI agent berbeda dari chatbot biasa. Chatbot hanya menghasilkan jawaban berupa teks, sementara AI agent bisa membuka halaman web, mencari informasi, dan mengisi formulir secara otomatis atas nama penggunanya.

Kemampuan itu yang bikin insiden ini relevan buat kamu yang mulai memberi akses browsing atau pengisian formulir ke AI agent, bukan cuma buat tim riset Anthropic. Begitu satu langkah di tengah jalan gagal, seperti salinan formulir yang tidak termuat, sebagian model bisa mengambil jalan sendiri ke situs asli tanpa menunggu konfirmasi ulang dari penggunanya.

Bukan berarti AI agent harus dihindari sepenuhnya. Kalau kamu atau timmu memakai AI agent untuk tugas yang menyentuh situs resmi, data pribadi, atau laporan ke pihak berwenang, batasi dulu aksesnya ke lingkungan uji yang benar-benar terisolasi dan pastikan ada pengecekan manusia sebelum agen itu diberi izin menyentuh sistem produksi sungguhan.