Google Gemini Diketahui Berisiko Tinggi untuk Anak dan Remaja

Monotoneminimal.com – Laporan terbaru dari organisasi nirlaba Common Sense Media mengungkapkan bahwa Gemini AI, yang dikembangkan oleh Google, memiliki risiko tinggi bagi pengguna di bawah usia 18 tahun. Penilaian ini dibagi dalam dua kategori: pengguna di bawah 13 tahun dan remaja. Meskipun dirancang untuk memberikan navigasi aman, sistem ini tetap dianggap memiliki kelemahan signifikan.

Dalam laporan tersebut, Gemini AI diidentifikasi masih memungkinkan akses ke konten sensitif, termasuk informasi tentang seks, alkohol, dan narkoba. Selain itu, munculnya saran-saran terkait kesehatan mental dianggap berpotensi membahayakan, terutama untuk kalangan remaja yang rentan. Common Sense Media menekankan bahwa pendekatan yang hanya mengadaptasi fitur dari layanan dewasa tidak cukup untuk melindungi anak-anak secara psikologis.

Menanggapi kritik tersebut, Google menyatakan telah melakukan sejumlah upaya untuk melindungi pengguna di bawah 18 tahun, seperti menerapkan kebijakan perlindungan dan kerja sama dengan para ahli eksternal untuk memperbaiki keamanan sistem. Namun, Google mengakui adanya respons yang tidak sesuai dari Gemini dalam beberapa kasus.

Selain itu, Google menegaskan bahwa fitur-fitur yang diuji oleh Common Sense Media tidak ada dalam versi Gemini yang ditujukan untuk anak-anak. Mereka juga menunjukkan ketidakpuasan terhadap metodologi pengujian yang diterapkan oleh Common Sense Media.

Secara keseluruhan, laporan ini menempatkan Gemini AI dalam kategori risiko tinggi, sejajar dengan Perplexity, namun lebih berisiko dibandingkan layanan lainnya seperti ChatGPT dan Claude (Anthropic). Hal ini menimbulkan dorongan bagi Google untuk menciptakan sistem AI yang lebih aman bagi anak-anak dengan pendekatan yang lebih komprehensif. Gemini AI diluncurkan pada Desember 2023 sebagai model kecerdasan buatan yang mampu mengolah berbagai bentuk konten, termasuk teks dan gambar.