Na manhã de segunda-feira, um tweet ameaçador, postado por uma conta verificada no Twitter, chamada Bloomberg Feed, sacudiu o mundo virtual. A mensagem alarmante continha a frase “Grande Explosão perto do Complexo do Pentágono em Washington, DC – Relatório Inicial”, seguida por uma imagem de uma imensa nuvem de fumaça preta ao lado de um edifício que se assemelhava ao Pentágono. Entretanto, uma inspeção mais aprofundada revelou que a imagem era falsa, provavelmente gerada por inteligência artificial, e a notícia da explosão foi rapidamente desmentida.
Ainda assim, o estrago foi feito: a farsa, propagada rapidamente por grandes contas, como o órgão de mídia estatal russo Rússia Today, parece ter mexido com o mercado de ações, levando o índice Dow Jones a cair 85 pontos em quatro minutos, antes de se recuperar.
“Apenas olhando para a imagem em si, não é o Pentágono”, disse Nate Hiner, capitão do Corpo de Bombeiros de Arlington, Virgínia, onde está situado o Pentágono. O Twitter, ao perceber a fraude, suspendeu a conta Bloomberg Feed, que não tinha relação com a verdadeira organização de mídia Bloomberg. No entanto, o incidente ilustra o potencial para danos se ferramentas de IA continuarem a se infiltrar em campos como moderação de mídia social, redação de notícias e negociação de ações.
Um dos fatores que contribuíram para a propagação da desinformação foi a nova política de verificação de contas do Twitter, implementada por seu novo proprietário, Elon Musk. Agora, os usuários podem obter os distintivos azuis de verificação, antes reservados para figuras públicas e grandes organizações, pagando US$ 8 por mês e confirmando seu número de telefone. Isso tornou mais difícil discernir contas legítimas de falsas.
Com o avanço da IA e sua aplicação em uma variedade de áreas, como a geração de imagens e textos, o perigo da desinformação se torna cada vez maior. “Esta não é uma questão de IA, por si só”, disse Renée DiResta, gerente de pesquisa do Stanford Internet Observatory. “Qualquer pessoa com experiência em Photoshop poderia ter feito aquela imagem – ironicamente, provavelmente poderia ter feito melhor. Mas é uma olhada em como os sinais que ajudam as pessoas a decidir se as informações sobre notícias de última hora são confiáveis no Twitter se tornaram inúteis, assim como a capacidade de criar irrealidade de alta resolução foi disponibilizada para todos”.
O incidente serviu de alerta para as autoridades e para os usuários de redes sociais, que devem estar cada vez mais atentos e céticos em relação a informações disseminadas, especialmente de fontes não verificadas. A utilização responsável e crítica das mídias sociais e das ferramentas de IA, assim como a adoção de melhores práticas de verificação de informações, ao que parece, tornam-se cada vez mais necessárias.
