KBRN, Kupang: Common Sense Media, lembaga nirlaba yang berfokus pada keselamatan anak, merilis penilaian terbaru terhadap produk kecerdasan buatan (AI) Gemini milik Google pada Jumat (5/9/2025). Hasilnya, meski Gemini dinilai transparan dalam memberi tahu anak-anak bahwa ia adalah komputer dan bukan teman, lembaga ini menilai masih banyak celah yang berisiko bagi pengguna muda.

Dalam analisisnya, Common Sense menemukan bahwa versi “Di Bawah 13 Tahun” dan “Pengalaman Remaja” Gemini pada dasarnya tidak jauh berbeda dengan versi dewasa, dimana perbedaannya hanya terletak pada tambahan beberapa fitur keamanan. Menurut lembaga tersebut, desain AI untuk anak seharusnya dibangun dengan mempertimbangkan keselamatan sejak awal, bukan sekadar modifikasi dari produk dewasa.

Laporan itu juga mengungkap bahwa Gemini masih bisa membagikan materi tidak pantas dan berbahaya bagi anak, termasuk konten seputar seks, narkoba, alkohol, hingga nasihat kesehatan mental yang tidak aman. Hal ini menimbulkan kekhawatiran serius, mengingat sejumlah kasus bunuh diri remaja dalam beberapa bulan terakhir dikaitkan dengan penggunaan chatbot AI.

Kekhawatiran semakin meningkat setelah muncul bocoran bahwa Apple tengah mempertimbangkan Gemini sebagai model bahasa besar (LLM) untuk mendukung Siri generasi terbaru yang akan dirilis tahun depan. Jika benar, potensi paparan remaja terhadap risiko dari Gemini bisa semakin meluas.

“Gemini sudah tepat dalam beberapa hal mendasar, tetapi masih kurang detail. Platform AI untuk anak-anak seharusnya sesuai dengan kebutuhan mereka, bukan pendekatan seragam untuk semua anak di berbagai tahap perkembangan,” ujar Robbie Torney, Direktur Senior Program AI Common Sense Media.

Meski mendapat kritik, Google menolak penilaian tersebut. Menurut TechCrunch, perusahaan menegaskan bahwa mereka telah memiliki kebijakan khusus dan perlindungan tambahan bagi pengguna di bawah 18 tahun.

Google juga mengaku melakukan red-teaming serta bekerja sama dengan pakar eksternal untuk memperbaiki sistem keamanannya. Mereka mengakui masih ada respons Gemini yang tidak berfungsi sebagaimana mestinya sehingga perlindungan tambahan tengah disiapkan.

Sebagai catatan, Common Sense sebelumnya juga menilai layanan AI lainnya, Meta AI dan Character AI mendapat label “tidak dapat diterima” karena risikonya dinilai parah. Perplexity dan Gemini masuk kategori berisiko tinggi, sementara ChatGPT berada di tingkat sedang, hanya Claude yang dianggap memiliki risiko minimal, meski layanan itu memang ditujukan untuk pengguna berusia 18 tahun ke atas. (JR)