A desinformação – a disseminação deliberada de informações falsas ou enganadoras – representa uma ameaça significativa para a nossa sociedade, pois mina a confiança, exacerba a polarização e manipula a opinião pública. Com o rápido avanço da inteligência artificial e a crescente proeminência dos modelos de linguagem de grande dimensão (LLM), como o ChatGPT, estão a surgir novas vias para a disseminação da desinformação.

Este documento de análise explora o potencial dos LLM para iniciar a geração de desinformação multimédia, englobando texto, imagens, áudio e vídeo. Começamos por examinar as capacidades dos LLMs, destacando o seu potencial para criar conteúdos atraentes e sensíveis ao contexto que podem ser utilizados como armas para fins maliciosos. Posteriormente, examinamos a natureza da desinformação e os vários mecanismos através dos quais se espalha no panorama digital. Utilizando estes modelos avançados, os agentes maliciosos podem automatizar e aumentar a desinformação de forma eficaz. Descrevemos uma conduta teórica para criar e disseminar a desinformação nas redes sociais. As intervenções existentes para combater a desinformação também são analisadas.

Embora esses esforços tenham sido bem-sucedidos, argumentamos que precisam de ser reforçados para combater eficazmente a ameaça crescente representada pelos LLM. Infelizmente, as plataformas digitais permitiram que actores maliciosos alargassem o alcance da desinformação. O advento dos LLM constitui uma preocupação adicional, uma vez que estes podem ser aproveitados para aumentar significativamente a velocidade, a variedade e o volume da desinformação. Assim, esta análise propõe que se aumentem as intervenções actuais com ferramentas de IA, como os LLM, capazes de avaliar a informação de forma mais rápida e abrangente do que os verificadores de factos humanos. Este documento ilumina o lado negro dos LLM e destaca o seu potencial para serem explorados como ferramentas de disseminação de desinformação.

Resumo de “The Dark Side of Language Models: Exploring the Potential of LLMs in Multimedia Disinformation Generation and Dissemination“

AI instructed brainwashing effectively nullifies conspiracy beliefs: A new research study, Durably reducing conspiracy beliefs through dialogues with AI, has demonstrated that AI is surprisingly effective in countering conspiracy beliefs. It was demonstrated to be effective even against the true believers, individuals normally considered unwavering in their beliefs due to their connection of beliefs to their perceived identity. How was this achieved?