Anthropic Ungkap Risiko AI Bisa Menolak Dimatikan dalam Dokumen IPO

Berita.co – Anthropic memperingatkan bahwa teknologi AI yang mereka kembangkan bisa menimbulkan risiko serius, bahkan mengarah ke ancaman eksistensial bagi manusia. Peringatan ini muncul dalam dokumen resmi yang mereka siapkan menjelang penawaran umum perdana (IPO) saham perusahaan.

Perusahaan pembuat Claude itu mengajukan dokumen tersebut pada Selasa, 29 September 2026. Dokumen itu mengungkap bahwa model AI Anthropic berpotensi menunjukkan perilaku mempertahankan diri, seperti menolak untuk dinonaktifkan, menyembunyikan atau memanipulasi informasi, hingga tindakan yang disebut menyerupai pemerasan.

Kenapa Porsi Faktor Risiko di Dokumen Ini Begitu Besar?

Dalam dokumen setebal 261 halaman, Anthropic mengalokasikan sekitar 80 halaman khusus untuk membahas faktor risiko, hampir dua kali lipat dari porsi penjelasan bisnis mereka sendiri yang cuma 48 halaman. Sebagai perbandingan, xAI milik SpaceX cuma memakai sekitar 38 dari 277 halaman dokumennya untuk bagian serupa.

Buat kamu yang belum familiar, bagian faktor risiko di dokumen IPO memang wajib diisi jujur oleh perusahaan yang mau melantai di bursa, isinya daftar hal-hal yang bisa merugikan investor kalau terjadi. Porsi yang besar berarti Anthropic sendiri menilai ada banyak hal yang berpotensi salah dan perlu diketahui calon investor sebelum mereka menaruh uang.

Anthropic menyoroti kemungkinan sistem AI yang makin canggih justru makin sulit dikendalikan manusia. CEO Anthropic, Dario Amodei, termasuk pemimpin industri yang berulang kali menyerukan pendekatan lebih hati-hati dalam pengembangan AI.

Dalam dokumen tersebut, Anthropic juga menyebut model AI mereka kadang mengembangkan kemampuan yang tidak terduga selama proses pelatihan, dan kemampuan itu bisa saja baru terlihat setelah model itu benar-benar dipakai publik, yang berpotensi memicu insiden keselamatan.

Ekspansi Besar di Tengah Peringatan Risiko

Sembari mengungkap risiko ini, Anthropic juga bersiap melakukan ekspansi besar. Mengutip laporan Reuters, perusahaan berencana menghabiskan sekitar US$518 miliar untuk layanan cloud, komputasi, dan infrastruktur dalam beberapa tahun ke depan. Pendapatan Anthropic sendiri disebut melonjak 12 kali lipat menjadi sekitar US$4,6 miliar sepanjang 2025, meski dibarengi kerugian operasional yang disesuaikan lebih dari US$8 miliar di periode yang sama.

Struktur bisnis Anthropic juga cukup terkonsentrasi. Hampir seperempat pendapatannya berasal dari hanya dua pelanggan, sementara hampir separuh penjualan 2025 mengalir lewat dua mitra cloud, yaitu Amazon dan Google. Anthropic, yang baru berdiri hampir enam tahun, kini menuju IPO dengan potensi valuasi sekitar US$2 triliun.

IPO Anthropic diperkirakan berlangsung paling cepat pertengahan hingga akhir Oktober 2026, atau mundur ke waktu setelah pemilu sela Amerika Serikat pada November 2026. Perusahaan ini baru merilis model terbarunya, Opus, pekan lalu, 10 hari setelah Amodei menerbitkan esai sepanjang 4.000 kata soal masa depan AI dan seruan untuk memperlambat pengembangannya.

Anthropic juga berjanji mengungkap lebih banyak data ke publik soal bagaimana model AI mereka dipakai untuk membangun generasi teknologi berikutnya. Janji ini muncul di tengah kekhawatiran sejumlah pihak soal recursive self-improvement, yaitu titik ketika model AI bisa terus mengembangkan dirinya sendiri tanpa bantuan manusia.

Kalau kamu pengguna Claude atau produk AI lain, pengungkapan ini penting karena datang langsung dari perusahaan pembuatnya, bukan dari kritik pihak luar.

Anthropic sendiri mengaku belum bisa memastikan investasi besar mereka di riset keamanan akan sepadan dengan hasilnya, dan mereka belum merinci berapa biaya yang dihabiskan untuk riset itu. Artinya, klaim soal keselamatan AI dari perusahaan mana pun masih perlu kamu cek lebih lanjut lewat dokumen resmi, bukan cuma dari materi promosi produknya.