Um estudo recente liderado por pesquisadores da Universidade de Indiana, nos Estados Unidos, revelou que a utilização da inteligência artificial (IA) na verificação de fatos pode, em algumas situações, aumentar a crença em notícias falsas. Os resultados foram publicados na quarta-feira (4) no Proceedings of the National Academy of Sciences e levantam questões cruciais sobre o impacto das ferramentas baseadas em IA na disseminação de informações falsas e verdadeiras.
Os principais achados do estudo
- Impacto na crença em fake news: Quando a IA não tem certeza sobre a veracidade de uma notícia ou rotula incorretamente manchetes verdadeiras como falsas, isso pode levar a um aumento na crença em notícias falsas.
- Efeito no compartilhamento de conteúdo: Participantes que visualizaram manchetes verificadas por modelos de linguagem ampla apresentaram maior propensão a compartilhar tanto notícias verdadeiras quanto falsas, mas também mostraram maior tendência a acreditar em fake news.
- Comparação com verificações humanas: Verificações feitas por humanos foram mais eficazes para ajudar os participantes a distinguir entre notícias verdadeiras e falsas, destacando as limitações das ferramentas automatizadas atuais.
O papel da IA e seus desafios
Matthew DeVerna, pesquisador da Indiana University, destacou que a checagem de fatos com IA é uma solução promissora devido ao grande volume de informações falsas ou enganosas que circulam online, muitas vezes geradas pela própria IA. Contudo, ele alerta que a interação com essas ferramentas pode gerar consequências não intencionais.
Filippo Menczer, diretor do Observatório de Mídias Sociais da Universidade de Indiana e autor sênior do estudo, reforçou a necessidade de políticas robustas para prevenir os danos potenciais da IA. Ele também chamou atenção para a urgência de melhorar a precisão dos modelos de verificação de fatos e entender melhor as interações entre humanos e inteligência artificial.
O caminho a seguir
Os pesquisadores enfatizaram que as ferramentas de IA precisam ser aprimoradas para desempenhar um papel mais eficaz na luta contra as fake news. Além disso, estratégias políticas e éticas são fundamentais para mitigar as consequências negativas que podem surgir com o uso dessas tecnologias.
Conclusão
Este estudo traz uma reflexão importante sobre a aplicação da inteligência artificial na era digital. Embora ofereça vantagens em escala e eficiência, ainda é necessário cuidado no desenvolvimento e implementação dessas ferramentas para garantir que sejam aliadas no combate à desinformação, e não um reforço para sua disseminação.
Fonte: Gabriela Maraccini, CNN. Publicado originalmente em CNN Brasil.
