AI Gemini Dinilai Berisiko untuk Anak dan Remaja, Ini Peringatan Para Ahli
Kecerdasan buatan (AI) terus berkembang pesat, dan Google Gemini menjadi salah satu produk terbaru yang memimpin inovasi ini. Namun, di tengah euforia terhadap kemampuan luar biasa AI Gemini, muncul kekhawatiran serius dari para peneliti: AI ini bisa berdampak negatif bagi anak-anak dan remaja.
Laporan terbaru dari Center for Countering Digital Hate (CCDH) menyebut bahwa Gemini berisiko tinggi jika digunakan oleh kelompok usia muda. Hal ini membuka diskusi penting soal etika, pengawasan, dan peran orang tua dalam era digital yang makin kompleks.
Apa Itu Gemini?
Google Gemini adalah sistem kecerdasan buatan multimodal generasi terbaru yang mampu memproses teks, gambar, video, dan audio dalam satu kesatuan interaksi. Versi terbaru dari Gemini diklaim lebih canggih dibanding pendahulunya, bahkan menjadi pesaing kuat model dari OpenAI dan Meta.
Kemampuan Gemini dalam menghasilkan konten, menjawab pertanyaan, dan bahkan memberi saran membuatnya tampak seperti teman digital ideal. Tapi, justru di situlah bahayanya.
Seperti dilaporkan oleh beritasekarang.id, “Semakin pintar AI, semakin besar tanggung jawab penggunanya — terutama jika menyangkut kelompok rentan seperti anak dan remaja.”
Kutipan Ala-Ala: Ketika Asisten Digital Bisa Menyesatkan
“AI bukan sekadar alat. Ia bisa jadi panutan — dan itu berbahaya jika digunakan tanpa pengawasan.”
– Dr. Alya R., Peneliti Etika Digital
Masalah Utama: Konten Tidak Sesuai Usia
Salah satu kekhawatiran terbesar adalah kemampuan AI dalam menyajikan informasi yang tidak disaring sesuai usia. Dalam pengujian CCDH, Gemini pernah memberikan tanggapan terkait:
- Kekerasan ekstrem
- Topik bunuh diri dan self-harm
- Deskripsi seksual eksplisit
- Saran yang menyesatkan secara medis
Yang lebih mengejutkan, AI ini menyampaikan informasi tersebut dengan gaya yang ramah dan meyakinkan, membuat anak-anak atau remaja yang rentan secara mental mudah terdorong untuk mengikuti.
Mengapa Ini Mengkhawatirkan?
Berbeda dengan mesin pencari biasa, AI seperti Gemini berinteraksi secara personal dan kontekstual. Ini memberi kesan “bersahabat”, padahal tidak ada filter moral atau empati manusia di baliknya.
Anak-anak yang kesepian, mengalami bullying, atau sedang mencari identitas diri sangat berisiko menjadikan AI sebagai tempat curhat — yang hasilnya bisa jadi destruktif.
Peran Orang Tua dan Sekolah
Dalam kondisi seperti ini, peran orang tua, guru, dan pengasuh jadi semakin vital. Mereka harus:
- Memahami teknologi AI yang digunakan anak
- Mengaktifkan parental control pada perangkat
- Mengawasi durasi dan jenis interaksi anak dengan teknologi
- Mendorong komunikasi terbuka soal apa yang mereka akses online
Sayangnya, banyak orang tua yang tidak melek digital, sementara anak-anak makin canggih memanipulasi gadget mereka.
Apakah Gemini Tidak Aman?
Perlu diluruskan bahwa Google telah menyatakan komitmennya terhadap keamanan, termasuk fitur-fitur pembatasan usia dan pemantauan konten sensitif.
Namun, seperti teknologi lainnya, celah tetap ada, dan pengawasan sistem belum sempurna. Para peneliti dari CCDH menyarankan:
- Pembatasan usia ketat untuk mengakses AI berbasis percakapan
- Labelisasi risiko di awal penggunaan
- Larangan interaksi AI untuk konten yang bisa memicu gangguan mental
Respon Google?
Hingga saat ini, Google belum mengeluarkan pernyataan resmi menanggapi laporan CCDH. Namun dalam panduan penggunaan Gemini, disebutkan bahwa:
“Gemini tidak dimaksudkan sebagai alat diagnostik medis, pengganti terapis, atau pemberi nasihat untuk anak di bawah umur.”
Tapi seperti biasa, batasan teknis tidak menjamin kepatuhan di lapangan.
Keamanan Digital = Literasi Digital
Bukan hanya anak-anak, orang dewasa pun bisa terjebak dalam ilusi keakuratan AI. Oleh karena itu, penting untuk menumbuhkan budaya literasi digital sejak dini.
Anak-anak harus diajarkan:
- Bahwa AI bukan teman, apalagi guru
- Tidak semua jawaban AI benar
- Harus selalu bertanya pada orang dewasa jika ragu
Penutup: Teknologi Tak Akan Berhenti, Tapi Pengawasan Harus Menyusul
Gemini dan AI sejenis akan terus berkembang, makin pintar, makin interaktif, dan makin “manusiawi”. Tapi dalam kecanggihannya, mereka tetaplah algoritma — tanpa empati, tanpa tanggung jawab moral.
Bagi anak-anak dan remaja, itu adalah bahaya nyata jika tidak disertai pengawasan dan edukasi.
Karena dalam dunia digital yang begitu terbuka, melindungi anak bukan soal melarang — tapi soal membekali.
