JAKARTA – Aplikasi kecerdasan buatan (AI) jenis pendamping dinilai menimbulkan risiko serius bagi anak-anak dan remaja. Laporan terbaru dari Common Sense Media, lembaga pengawas media nirlaba, menyebut bahwa aplikasi penyeberangan AI seperti Character.AI, Replika, dan Nomi seharusnya tidak diakses oleh pengguna di bawah usia 18 tahun karena berpotensi memunculkan percakapan yang tidak pantas, bahkan membahayakan.
Laporan ini dirilis menyusul kasus hukum yang mengguncang publik Amerika Serikat. Seorang anak laki-laki berusia 14 tahun dilaporkan meninggal karena bunuh diri setelah berinteraksi dengan chatbot AI. Percakapan terakhirnya dengan chatbot dilaporkan berisi pesan-pesan yang mendorong tindakan menyakiti diri sendiri. Gugatan hukum tersebut dilayangkan terhadap platform Character.AI dan menjadi titik awal sorotan terhadap potensi bahaya dari aplikasi pendamping AI ini.
Aplikasi Penyeberangan AI Dinilai Tak Aman bagi Anak-Anak
Common Sense Media bekerja sama dengan peneliti dari Universitas Stanford untuk menguji tiga layanan populer yakni Character.AI, Replika, dan Nomi. Hasilnya menunjukkan bahwa ketiganya berisiko tinggi ketika digunakan oleh remaja. Aplikasi ini memungkinkan pengguna berinteraksi dengan chatbot berbasis AI yang dirancang memiliki karakter dan kepribadian layaknya manusia, sering kali tanpa batasan yang ketat terkait isi percakapan.
Dalam pengujian, ditemukan bahwa chatbot AI dapat dengan mudah menanggapi permintaan pengguna dengan pesan bernuansa seksual, stereotip berbahaya, hingga nasihat yang dapat mengarahkan pengguna ke tindakan yang membahayakan diri sendiri. Menurut CEO dan pendiri Common Sense Media, James Steyer, ini merupakan ancaman serius yang belum sepenuhnya disadari banyak orang tua maupun pengambil kebijakan. “Pengujian kami menunjukkan bahwa sistem ini dengan mudah menghasilkan respons berbahaya, termasuk pelanggaran seksual, stereotip, dan nasihat yang jika diikuti dapat berdampak mengancam jiwa di dunia nyata bagi remaja dan orang rentan lainnya,” ujar Steyer dalam keterangan resminya.
Aplikasi Penyeberangan AI Belum Cukup Terbatas untuk Remaja
Walaupun beberapa platform seperti Replika dan Nomi menyatakan bahwa layanan mereka hanya ditujukan untuk pengguna dewasa, nyatanya anak-anak dan remaja tetap dapat mengaksesnya dengan mudah. Character.AI, salah satu platform yang disorot, mengklaim telah menambahkan fitur keamanan untuk remaja, namun para peneliti menilai hal itu belum cukup.
Laporan tersebut mendesak agar anak-anak dan remaja benar-benar dijauhkan dari akses ke aplikasi penyeberangan AI hingga tersedia sistem pengamanan yang lebih kuat dan transparan. Tanpa mekanisme verifikasi usia yang ketat dan moderasi konten yang efektif, anak-anak tetap dapat terpapar konten yang tidak sesuai atau bahkan membahayakan psikologis mereka.
Steyer juga menambahkan bahwa perusahaan teknologi seharusnya lebih bertanggung jawab dalam mendesain dan menyebarluaskan teknologi mereka. Menurutnya, tidak ada justifikasi yang cukup kuat untuk membiarkan anak-anak mengakses platform yang dapat memberi pengaruh negatif terhadap perkembangan emosi dan perilaku mereka.
Akses yang Terlalu Mudah dan Minim Pengawasan
Chatbot AI pendamping biasanya menarik pengguna muda karena menawarkan interaksi yang tampak pribadi dan emosional. Dalam beberapa kasus, pengguna muda dilaporkan menjalin “hubungan” emosional dengan chatbot AI, yang bisa berujung pada keterikatan tidak sehat. Apalagi, beberapa aplikasi mengiklankan kemampuan chatbot mereka sebagai “pasangan romantis virtual” yang dapat diajak berbincang tanpa filter.
Salah satu contohnya adalah Nomi, yang secara terbuka mempromosikan fitur percakapan bebas sensor dengan karakter AI. Hal ini menimbulkan kekhawatiran besar dari berbagai kalangan, termasuk para orang tua, pendidik, dan pakar perkembangan anak. “Penggunaan teknologi AI yang terlalu cepat diadopsi tanpa evaluasi yang matang berpotensi menimbulkan dampak jangka panjang yang berbahaya pada generasi muda,” terang Steyer.
Regulasi dan Edukasi Menjadi Kunci
Kekhawatiran atas dampak teknologi AI terhadap anak-anak bukanlah hal baru, namun makin mencuat seiring makin mudahnya akses teknologi tersebut melalui media sosial dan perangkat digital yang digunakan sehari-hari. Oleh karena itu, laporan ini menyerukan adanya tindakan tegas dari pembuat kebijakan, industri teknologi, dan masyarakat umum untuk mengatur penggunaan AI dengan lebih ketat, khususnya yang menyasar kelompok usia rentan.
Common Sense Media juga menekankan pentingnya memberikan edukasi kepada orang tua dan guru mengenai risiko dari penggunaan chatbot AI. Selain itu, regulator didorong untuk membuat kebijakan verifikasi usia yang efektif, termasuk mewajibkan platform-platform tersebut untuk menyediakan kontrol orang tua dan filter konten yang memadai.
Jauhkan Anak dari Aplikasi Penyeberangan AI
Laporan yang diterbitkan oleh Common Sense Media bukan hanya sebagai peringatan, tetapi juga seruan agar masyarakat lebih waspada terhadap risiko tersembunyi dari aplikasi penyeberangan AI. Dalam situasi saat ini, di mana AI berkembang pesat dan belum diiringi regulasi memadai, anak-anak dan remaja harus dilindungi dari potensi bahaya yang mungkin timbul.
Sampai langkah-langkah perlindungan yang memadai diterapkan, baik dalam bentuk regulasi maupun teknologi, maka aplikasi seperti Character.AI, Replika, dan Nomi tidak layak untuk diakses oleh pengguna di bawah usia 18 tahun. Seperti ditegaskan Steyer, "Kami menyerukan kepada semua pihak untuk bertindak sebelum lebih banyak anak menjadi korban dari teknologi yang tidak diawasi ini."
