Zuckerberg Tolak Rem AI Bersama, Sebut Perusahaan Bisa Jaga Diri Sendiri

Berita.co – Mark Zuckerberg menolak ajakan sejumlah petinggi industri AI untuk mengerem pengembangan kecerdasan buatan secara bersama-sama. Pada Selasa (15/9), lewat unggahan di media sosial X, CEO Meta itu menegaskan setiap lab AI sudah punya alasan sendiri untuk menjaga keamanan modelnya masing-masing, tanpa perlu menunggu kesepakatan industri.

“Setiap lab memiliki tanggung jawab dan insentif untuk bergerak dengan kecepatan yang diperlukan untuk melatih modelnya dengan aman, serta kemampuan untuk mengambil tindakan sendiri untuk memastikan hal itu terjadi,” kata Zuckerberg.

Dua hal yang dia sebut sebagai insentif itu adalah persaingan antarperusahaan dan risiko tanggung jawab hukum kalau model bermasalah. Buat Zuckerberg, dua hal itu sudah cukup memaksa tiap lab menjaga produknya sendiri.

Trust dan Alignment Jadi Kata Kunci

Istilah yang dia pakai berulang kali adalah “alignment”. Dalam konteks ini, alignment berarti seberapa selaras perilaku model AI dengan yang diinginkan pembuatnya, misalnya tidak memberi jawaban berbahaya atau menyimpang dari instruksi. Zuckerberg menilai kemampuan menjaga trust dan alignment akan jadi faktor yang membedakan satu model dari model lain ke depan.

“Lab mana pun yang tidak fokus pada alignment akan tertinggal,” katanya, menambahkan bahwa kepercayaan pengguna kini jadi bagian dari daya saing produk AI, bukan cuma soal kemampuan model semata.

Sebagai contoh, dia menyinggung keputusan Meta menunda peluncuran agen AI bernama Muse pada awal tahun ini demi memperkuat sisi keamanannya. Menurutnya, langkah itu diambil sendiri oleh Meta, bukan karena diminta perusahaan lain.

“Kami tidak meminta semua orang melakukan hal yang sama sebelum kami melakukannya. Kami hanya melakukannya sebagai bagian dari pekerjaan sehari-hari karena jelas itu hal yang tepat bagi orang-orang dan bagi kami,” ujarnya.

Zuckerberg tidak menolak semua bentuk pengawasan pada AI. Dia menyebut Meta Superintelligence Labs sudah memakai evaluator independen untuk menguji sistemnya di beberapa area, dan menyebut praktik itu sebagai standar terbaik di industri saat ini. Bedanya, dia menilai langkah itu bisa diambil tiap perusahaan sendiri-sendiri, tanpa harus menunggu kesepakatan bersama seluruh industri.

Beda Sikap dengan Amodei, Altman, dan Musk

Pernyataan Zuckerberg ini muncul sebagai respons atas seruan CEO Anthropic Dario Amodei, yang beberapa hari sebelumnya meminta perusahaan AI memperlambat peningkatan kemampuan model. Seruan Amodei kemudian didukung terbuka oleh CEO OpenAI Sam Altman dan pemilik xAI Elon Musk.

Fokus utama kekhawatiran mereka ada pada recursive self-improvement, yaitu kemampuan sebuah AI untuk terus meningkatkan kemampuannya sendiri tanpa banyak campur tangan manusia. Zuckerberg mengatakan Meta justru mengalokasikan sebagian besar daya komputasinya untuk membangun produk yang melayani kebutuhan pengguna saat ini, bukan mengejar sistem yang terus memperbaiki dirinya sendiri.

Perbedaan pandangan soal AI juga datang dari luar lingkaran perusahaan AI murni. Menurut laporan CNN Indonesia, Presiden AS Donald Trump sebelumnya juga mengecilkan kekhawatiran soal bahaya AI, bahkan menyebutnya hoaks. Trump berpendapat AS sudah punya sejumlah guardrails atau pembatas untuk AI, dan memperingatkan bahwa keraguan berlebihan terhadap pengembangan AI justru bisa menguntungkan China.

Pandangan senada soal risiko regulasi berlebihan juga disampaikan CEO Nvidia Jensen Huang. Dia menilai perusahaan AI tidak butuh undang-undang atau regulasi baru untuk memastikan produknya dirancang dengan benar sebelum dirilis.

“Kita sudah punya banyak undang-undang. Kita punya banyak regulasi yang mengatur keandalan dan fungsionalitas produk,” kata Huang.

Buat kamu yang memakai produk AI Meta, seperti asisten AI di aplikasi Meta atau agen Muse, pernyataan ini menandakan dua hal konkret.

Pertama, arah pengembangan produk tetap fokus melayani kebutuhan penggunaan sekarang, bukan mengejar model yang bisa terus memperbaiki dirinya sendiri tanpa batas. Kedua, jaminan keamanannya datang dari mekanisme internal Meta sendiri, lewat evaluator independen dan insentif menghindari tanggung jawab hukum, bukan dari aturan yang disepakati bersama seluruh industri AI.