Ler Resumo
Desinformação em escala nunca vista antes
E mesmo quando as respostas são tecnicamente corretas, elas nem sempre são confiáveis. Mais da metade das respostas corretas eram “infundadas”, ou seja, os sites linkados não corroboravam totalmente as informações fornecidas. Isso torna difícil verificar a precisão da resposta.
As empresas de IA estão por trás de uma crise de desinformação. É difícil lembrar de outra tecnologia na história que tenha fornecido números absolutos de informações erradas na mesma escala que os modelos de IA. Estudos também mostram que as pessoas tendem a confirmar no que a IA responde sem questionamentos. Um relatório mostrou que apenas 8% dos usuários sempre checam a resposta da IA. Já um estudo de pesquisadores de Universidade da Pensilvânia descobriu que os usuários aceitam o que as IAs respondem como verdade, mesmo quando ela está errada, cerca de 80% das vezes.
Verifique a resposta
É muito difícil realmente verificar o quão correta a AI Overview realmente é. Essas visões gerais nem sempre fornecem a mesma resposta. Buscas idênticas podem retornar resultados diferentes, alguns precisos e outros não. Essa variabilidade torna mais difícil saber em quem confiar. Uma resposta errada pode transformar em uma correta se o usuário repetir a pergunta – ou o contrário.
“Mesmo quando a resposta é verdadeira, como você pode ter certeza de que é verdadeira?”, afirmou Manos Koukoumidis, CEO da Oumi, ao The New York Times. “Como você pode verificar?”
Em conjunto, esses problemas alimentam preocupações mais amplas sobre como as pessoas realmente usam a busca. A melhor dica para se prevenir é: nunca confie em uma única fonte, sempre compare a resposta que você obtém com outras.
Quem usa IA no trabalho é visto como mais preguiçoso e menos competentes pelos colegas
Fonte ==> Você SA
