AI Dinilai Lebih Berbahaya bagi Anak daripada Medsos, Menkomdigi Angkat Isu Ini di PBB

Berita.co – Kekhawatiran soal dampak AI terhadap anak-anak menguat dari dua arah sekaligus pekan ini. Satu datang dari orang dalam industri teknologi, satu lagi dari panggung diplomasi dunia.

Pada Selasa (22/9), Tom Siegel, mantan wakil presiden Trust and Safety Google, mengumumkan bergabung dengan Common Sense Media untuk memimpin Youth AI Safety Institute sebagai direktur eksekutif pertamanya.

Mengutip laporan Reuters, Siegel menilai AI berisiko lebih membahayakan anak dibanding media sosial, karena chatbot bisa berinteraksi langsung dan terus-menerus dengan penggunanya.

Kenapa Siegel Bilang AI Lebih Berisiko daripada Medsos

Siegel bekerja di Google sejak 2004 sampai 2019 dan sempat menjabat wakil presiden Trust and Safety di sana. Dia keluar dari Google karena melihat industri teknologi mulai stagnan dalam usaha membuat ruang online yang aman.

Setelah itu dia ikut mendirikan TrustLab, startup yang mengembangkan alat deteksi ancaman keamanan di platform digital, dan mundur dari posisi CEO TrustLab awal September 2026 sebelum pindah ke peran barunya.

Menurut Siegel, situasi AI saat ini mirip dengan fase awal media sosial, tapi bergerak lebih cepat daripada regulasi yang mengejarnya.

Dia menyebut sejumlah skenario risiko yang bisa dialami anak, mulai dari bunuh diri dan psikosis, sampai cognitive offloading, yaitu kondisi ketika seseorang terlalu bergantung pada AI untuk berpikir sehingga kemampuan berpikir kritisnya menurun.

Kekhawatiran ini bukan tanpa dasar data. Youth AI Safety Institute mensurvei 1.017 remaja di Amerika Serikat dan menemukan 70%di antaranya memakai AI untuk membantu tugas sekolah. Dari kelompok itu, 63% memakainya justru untuk langsung mendapat jawaban, bukan untuk belajar prosesnya.

Data Common Sense Media tahun 2026 juga mencatat 86% anak usia 9 sampai 17 tahun sudah memakai AI, hampir seperempatnya setiap hari, sementara lebih dari 4 dari 10 anak mengaku orang tua mereka belum pernah membahas keamanan AI bersama mereka.

Youth AI Safety Institute dan Siapa yang Mendukungnya

Youth AI Safety Institute sendiri didirikan Common Sense Media pada Mei 2026, dengan misi menguji produk AI secara independen dan menyusun standar keamanan yang bisa dipakai menilai risiko sebuah produk bagi anak.

Anthropic dan OpenAI Foundation, organisasi nirlaba yang mengendalikan OpenAI, tercatat sebagai pendukung lembaga ini.

Siegel membayangkan model pengujian yang mirip uji keselamatan mobil, di mana lembaga independen menguji produk AI lalu mempublikasikan hasilnya supaya publik tahu tingkat keamanan masing-masing.

Dia mendorong Anthropic dan OpenAI memperkuat verifikasi usia agar anak di bawah umur tidak bisa mengakses chatbot yang bukan diperuntukkan bagi mereka.

Untuk Google, dia menyarankan opsi mematikan AI Overviews dan AI Mode di mesin pencari, karena menurutnya Google sudah punya mekanisme serupa untuk menyaring konten seksual eksplisit.

Google membantah anggapan bahwa perusahaan tidak menyediakan kontrol untuk orang tua, dengan menyebut orang tua bisa sepenuhnya mematikan akses anak ke fitur AI di mesin pencari.

OpenAI menyatakan memakai kombinasi sinyal akun, pola perilaku, dan usia yang dilaporkan pengguna untuk mengenali pengguna di bawah umur, sambil mengakui belum ada satu metode penentuan usia yang sempurna. Anthropic belum memberi tanggapan.

Indonesia Bawa Isu Ini ke Forum PBB

Kekhawatiran serupa juga disuarakan pemerintah Indonesia di panggung yang berbeda. Menteri Komunikasi dan Digital Meutya Hafid berbicara dalam forum tingkat tinggi di sela Sidang Umum ke-81 Perserikatan Bangsa-Bangsa di New York, baru-baru ini.

Forum bertajuk “Protecting Children’s Rights Facing Artificial Intelligence” itu dipimpin Presiden Prancis Emmanuel Macron, Perdana Menteri Spanyol Pedro Sanchez, Presiden Kenya William Ruto, dan Perdana Menteri Australia Anthony Albanese, menurut laporan Antara pada Kamis (24/9).

Meutya menyoroti sekitar 70 juta anak Indonesia yang akan tumbuh dalam ekosistem digital yang didominasi AI. Menurutnya, jaminan keselamatan dan hak anak harus dipastikan sejak awal, bukan setelah risikonya benar-benar terjadi.

Dia juga menegaskan keselamatan anak tidak bisa diserahkan begitu saja kepada algoritma, melainkan butuh tanggung jawab bersama dari pemerintah, platform teknologi, industri, orang tua, sekolah, sampai komunitas internasional.

Kehadiran Indonesia dalam forum ini menegaskan posisinya sebagai bagian dari Global Coalition for Children’s Rights and Protection in the Age of AI, koalisi global yang meluncurkan peta jalan 2026-2027 dengan sejumlah agenda, di antaranya:

• Penguatan prinsip keselamatan dan privasi sejak tahap awal perancangan teknologi (safety and privacy by design).
• Peningkatan akuntabilitas penyedia layanan teknologi lewat standar pengujian AI.
• Akselerasi program literasi AI bagi masyarakat umum dan pendidik.
• Penanganan tegas terhadap penyalahgunaan AI, khususnya materi kekerasan seksual anak dan konten deepfake.

Dua kejadian ini terjadi di panggung yang berbeda tapi mengarah ke kesimpulan yang sama, AI sudah dipakai jutaan anak setiap hari, sementara sistem pengamanannya belum sepenuhnya siap.

Kalau anak atau adikmu rutin memakai chatbot AI untuk tugas sekolah, dua hal yang disorot Siegel di atas layak jadi pengingat, cek dulu apakah layanan itu punya batasan usia yang jelas, dan jangan biarkan AI jadi satu-satunya sumber jawaban tanpa proses berpikir di baliknya.

Di sisi kebijakan, rencana kerja sama lintas negara yang disebut Meutya masih berupa peta jalan sampai 2027, jadi belum ada aturan teknis baru yang langsung berlaku di Indonesia dari forum ini.

Yang bisa dipastikan sejauh ini, isu keselamatan anak di era AI sudah masuk agenda resmi baik dari sisi industri maupun pemerintah, dan kemungkinan besar akan terus berkembang dalam beberapa bulan ke depan.