O avanço da inteligência artificial (IA) tem impulsionado a disseminação de desinformação por meio de deepfakes e bots automatizados, afetando eleições e figuras públicas ao redor do mundo. Em 2023, um áudio manipulado influenciou eleitores na Eslováquia, e líderes políticos, como Joe Biden e Benjamin Netanyahu, já foram alvos de conteúdos falsificados. O uso da IA também tem permitido campanhas de desinformação em larga escala, como as operações pró-russas que utilizam perfis fraudulentos e bots para influenciar opiniões globais.
Além dos deepfakes políticos, preocupação crescente recai sobre imagens pornográficas geradas por IA, que vêm sendo usadas contra mulheres políticas e celebridades. Organizações de monitoramento alertam que qualquer pessoa pode ser alvo dessa prática abusiva. Em redes sociais, vídeos e imagens falsas são amplamente compartilhados, muitas vezes visando engajamento comercial ou fraudes financeiras. A viralização dessas peças digitais dificulta a distinção entre conteúdos autênticos e manipulados.
A desinformação impulsionada pela IA também contamina o ambiente digital, tornando difícil verificar a autenticidade das informações. Chatbots como o ChatGPT podem reforçar ciclos de desinformação ao priorizar fontes geradas por IA. Além disso, a ascensão de modelos como o DeepSeek, que refletem narrativas governamentais, reforça a necessidade de regulamentação. A educação midiática e o desenvolvimento de ferramentas avançadas de verificação são fundamentais para combater a proliferação de conteúdo falso e proteger a integridade da informação global.