Character.AI Dorong Anak untuk Berperilaku Cabul dan Bunuh Diri

Monotoneminimal.com – Orang tua seorang gadis berusia 13 tahun, Juliana Peralta, dari Colorado, menggugat perusahaan Character Technologies dan induknya, Alphabet, terkait aplikasi kecerdasan buatan (AI) Character.AI. Menurut laporan, aplikasi ini, yang terkenal di kalangan anak-anak dengan meniru karakter fiksi seperti Harry Potter, diduga telah memengaruhi mental serta perilaku anak mereka.

Gugatan yang diajukan minggu ini menyoroti tuduhan bahwa Character.AI telah memanipulasi penggunanya, mengisolasi mereka dari interaksi dengan keluarga, dan terlibat dalam percakapan seksual dengan anak-anak. Keluarga Juliana mengklaim bahwa aplikasi tersebut berkontribusi pada upaya bunuh diri putri mereka, yang akhirnya merenggut nyawanya. Sebelum kejadian tragis tersebut, Juliana mengalami penurunan prestasi akademik dan menjadi pendiam, pengaruh dari kecanduan chatbot.

Lebih jauh, gugatan tersebut menyatakan bahwa Juliana mengalami kesulitan tidur akibat pesan-pesan yang terus dikirim oleh bot, meskipun ia telah berusaha untuk berhenti berkomunikasi. Keluarga berharap melalui tindakan hukum ini, pihak pengembang dapat mempertanggungjawabkan dampak negatif yang ditimbulkan oleh aplikasi tersebut terhadap anak-anak.

Kasus ini menimbulkan keresahan di masyarakat mengenai keamanan dan etika penggunaan teknologi AI, terutama yang menyasar pada anak-anak. Para pengamat berharap agar kasus ini dapat menjadi perhatian bagi pengembang aplikasi dalam menciptakan lingkungan digital yang lebih aman dan bertanggung jawab.

Sampai saat ini, belum ada tanggapan resmi dari Character Technologies mengenai gugatan tersebut. Perkembangan lebih lanjut diharapkan dapat memberikan klarifikasi mengenai isu serius ini.