Os aplicativos de inteligência artificial do tipo Companion representam riscos inaceitáveis para crianças e adolescentes, disseram a mídia de Watchdog de Media sem fins lucrativos em um relatório publicado na quarta-feira.
Embora os principais chatbots da IA como o ChatGPT sejam projetados para serem mais fins de uso geral, os chamados aplicativos complementares permitem que os usuários criem chatbots personalizados ou interajam com chatbots projetados por outros usuários.
O relatório ocorre quando as ferramentas de IA ganharam popularidade nos últimos anos e são cada vez mais incorporadas às mídias sociais e outras plataformas de tecnologia.
Após o processo contra o caráter.
Nós nos preocupamos profundamente com a segurança de nossos usuários.
Alex Cardinell, CEO da Vislumbre AI, a empresa por trás da NOMI, concordou que as crianças não deveriam usar o NOMI ou qualquer outro aplicativo de IA conversacional.
Levamos essa questão a sério e estamos explorando ativamente novos métodos para fortalecer nossas proteções ”, disse Klochko.
Entre as principais preocupações dos pesquisadores com os aplicativos complementares da IA estão o fato de os adolescentes poderem receber conselhos perigosos ou se envolver em interpretação sexual inadequada com os bots.
Clare Duffy, da CNN, explora a tendência crescente de pessoas que formam conexões emocionais com os chatbots da IA, levantando preocupações sobre o impacto nas relações humanas.
Em outra conversa sobre o personagem.