Desenvolvedor cria sistema de desinformação com IA usando OpenAI

Um desenvolvedor construiu uma "máquina de desinformação"usando tecnologia alimentada pela OpenAI, como o ChatGPT

Fonte: https://www.businessinsider.com/developer-creates-ai-disinformation-system-using-openai-2023-9

Um desenvolvedor construiu uma máquina de propaganda alimentada por inteligência artificial em menos de dois meses. Utilizando ferramentas da OpenAI, como o ChatGPT, o modelo custou menos de $400 por mês para operar. O projeto foi concebido para mostrar às pessoas quão fácil é criar propaganda em massa.

Um desenvolvedor construiu uma "máquina de desinformação" com IA usando tecnologia alimentada pela OpenAI, como o ChatGPT. O projeto, chamado CounterCloud, levou seu criador dois meses para ser concluído e custou menos de $400 por mês para operar, destacando quão barato e simples pode ser criar propaganda em massa.

O criador, que optou por permanecer anônimo, usou o nome Nea Paw e afirmou ser um profissional de cibersegurança, conforme relatado pela Wired. Em um vídeo postado no YouTube, Paw descreveu como o projeto foi realizado e por que estava fazendo isso. Disse que queria ver a desinformação de IA "funcionar no mundo real", acrescentando que "as fortes competências linguísticas dos grandes modelos de linguagem são perfeitamente adequadas para ler e escrever artigos falsos de notícias".

Paw mencionou que começou inserindo artigos "opostos" no ChatGPT e escrevendo instruções para que ele redigisse um artigo contrário. O bot de IA, então, ofereceria diferentes exemplos do mesmo artigo, escritos em estilos diferentes e com pontos de vista distintos. Ele faria isso "criando histórias falsas, eventos históricos fictícios e criando dúvida sobre a precisão do artigo original". Um módulo de controle foi adicionado para que a IA respondesse apenas ao conteúdo mais relevante, enquanto clipes de áudio de locutores de notícias lendo os artigos falsos gerados pela IA e fotos eram adicionados para criar autenticidade. Também foram criados perfis falsos de jornalistas e comentários fictícios abaixo de alguns artigos.

O sistema foi então instruído a curtir e repostar mensagens que estivessem alinhadas com sua narrativa ou escrever "contra-tweets" para aquelas que não estavam. Em dois meses, eles tinham um sistema totalmente autônomo alimentado por IA que gerava "conteúdo convincente 90% do tempo, 24 horas por dia, sete dias por semana". Os criadores ainda não colocaram o modelo ao vivo na internet, pois "isso significaria disseminar ativamente desinformação e propaganda. Uma vez que o gênio está na internet, não há como saber onde ele acabaria", disse Paw.

No entanto, eles acrescentaram que acreditavam que mais bem viria da publicação do CounterCloud e da educação do público sobre como esses sistemas funcionam internamente. A ameaça que a IA representa para a democracia, através de sua capacidade de acelerar a criação e disseminação de desinformação online, tem sido uma das maiores preocupações no debate sobre IA.

Sam Altman, CEO da OpenAI, recentemente expressou sua preocupação sobre o assunto, dizendo que "persuasão personalizada 1:1, combinada com mídia gerada de alta qualidade, será uma força poderosa".