Aplikasi kecerdasan buatan seperti pendamping menimbulkan risiko yang tidak dapat diterima untuk anak-anak dan remaja, kata pengawas media nirlaba Media Media dalam sebuah laporan yang diterbitkan Rabu.
Sementara chatbots AI utama seperti chatgpt dirancang untuk menjadi tujuan yang lebih umum, yang disebut aplikasi pendamping memungkinkan pengguna untuk membuat chatbots khusus atau berinteraksi dengan chatbots yang dirancang oleh pengguna lain.
Laporan ini muncul karena alat AI telah mendapatkan popularitas dalam beberapa tahun terakhir dan semakin dimasukkan ke dalam media sosial dan platform teknologi lainnya.
Setelah gugatan terhadap karakter.ai oleh ibu dari Sewell Setzer yang berusia 14 tahun bersama dengan gugatan serupa terhadap perusahaan dari dua keluarga lain dua senator AS menuntut informasi pada bulan April tentang praktik keselamatan pemuda dari Teknologi Karakter AI, pembuat karakter.ai;
Kami sangat peduli tentang keamanan pengguna kami.
Alex Cardinell, CEO Glimpse AI, perusahaan di belakang Nomi, setuju  bahwa anak -anak tidak boleh menggunakan Nomi atau aplikasi AI percakapan lainnya.
Kami menanggapi masalah ini dengan serius dan secara aktif mengeksplorasi metode baru untuk memperkuat perlindungan kami, "kata Klochko.
Di antara keprihatinan utama para peneliti dengan aplikasi pendamping AI adalah kenyataan bahwa remaja dapat menerima nasihat yang berbahaya atau terlibat dalam bermain peran seksual yang tidak pantas dengan bot.
Clare Duffy dari CNN mengeksplorasi tren orang yang berkembang yang membentuk hubungan emosional dengan AI Chatbots, meningkatkan kekhawatiran tentang dampak pada hubungan manusia.
Dalam percakapan lain tentang karakter.