À medida que a desinformação explodiu durante o conflito de quatro dias da Índia com o Paquistão, os usuários de mídia social se voltaram para um chatbot de IA para verificação apenas para encontrar mais falsidades, ressaltando sua falta de confiabilidade como uma ferramenta de verificação de fatos.
Imagens não relacionadas de um prédio em chamas no Nepal foram identificadas mal como "prováveis", mostrando a resposta militar do Paquistão aos ataques indianos.
Quando os verificadores de fatos da AFP no Uruguai perguntaram a Gemini sobre uma imagem gerada pela IA de uma mulher, ela não apenas confirmou sua autenticidade, mas fabricou detalhes sobre sua identidade e onde a imagem provavelmente foi tirada.
Os pesquisadores questionaram repetidamente a eficácia das "notas da comunidade" no combate a falsidades.
Musk, o bilionário da África do Sul do presidente Donald Trump, já havia vendido a alegação infundada de que os líderes da África do Sul estavam "pressionando abertamente pelo genocídio" de pessoas brancas.