OpenAI divulga relatório sobre operações de influência ocultas usando sua IA

A OpenAI divulgou ontem (quinta-feira) seu primeiro relatório sobre como 🏵 suas ferramentas de inteligência artificial estão sendo usadas operações de influência ocultas, revelando que a empresa desarticulou campanhas de 🏵 desinformação originárias da Rússia, China, Israel e Irã.

Atores maliciosos utilizaram modelos de IA gerativos da empresa para criar e postar 🏵 conteúdo propagandístico plataformas de mídia social e para traduzir seu conteúdo para diferentes idiomas. Nenhuma das campanhas teve êxito 🏵 ou atingiu grandes audiências, de acordo com o relatório.

Preocupações com a IA e desinformação

A medida que a indústria de IA 🏵 gerativa cresce, tem havido ampla preocupação entre pesquisadores e legisladores sobre seu potencial para aumentar a quantidade e a qualidade 🏵 da desinformação online. Empresas de IA, como a OpenAI, que criou o ChatGPT, tentaram com resultados mistos aliviar essas preocupações 🏵 e instituir garantias sua tecnologia.

Detalhes da OpenAI sobre uso de software para propaganda

O relatório de 39 páginas da OpenAI 🏵 é uma das contas mais detalhadas de uma empresa de IA sobre o uso de seu software para propaganda. A 🏵 OpenAI afirmou que seus pesquisadores identificaram e baniram contas associadas a cinco operações de influência oculta nos últimos três meses, 🏵 que eram de atores estatais e privados.

Em países como a Rússia, duas operações criaram e disseminaram conteúdo criticando os EUA, 🏵 a Ucrânia e várias nações bálticas. Uma delas usou um modelo da OpenAI para depurar código e criar um bot 🏵 que postou no Telegram. Operadores chineses geraram texto inglês, chinês, japonês e coreano, que então postaram no Twitter e 🏵 no Medium.

Atores iranianos geraram artigos completos que atacavam os EUA e Israel, que traduziram para o inglês e francês. Uma 🏵 empresa política israelense chamada Stoic operou uma rede de contas de mídia social falsas que criaram uma variedade de conteúdo, 🏵 incluindo postagens que acusavam protestos estudantis nos EUA contra a guerra do Israel com a Gaza de ser antissemita.

Alguns dos 🏵 espalhadores de desinformação que a OpenAI baniu de sua plataforma já eram conhecidos de pesquisadores e autoridades. O Tesouro dos 🏵 EUA sancionou dois homens russos março que, supostamente, estavam por trás de uma das campanhas que a OpenAI detectou, 🏵 enquanto o Meta também baniu a Stoic de sua plataforma este ano por violar suas políticas.

O relatório também destaca como 🏵 a IA gerativa está sendo incorporada campanhas de desinformação como meio de aprimorar aspectos da geração de conteúdo, como 🏵 fazer postagens línguas estrangeiras mais convincentes, mas que não é a ferramenta exclusiva para propaganda.

"Todas essas operações usaram AI 🏵 algum grau, mas nenhuma a usou exclusivamente", o relatório afirmou. "Materiais gerados por IA foram apenas um dos muitos tipos 🏵 de conteúdo que eles postaram, ao lado de formatos mais tradicionais, como textos escritos à mão ou memes copiados da 🏵 internet".

Embora nenhuma das campanhas tenha obtido impacto significativo, o uso da tecnologia mostra como atores maliciosos estão encontrando que a 🏵 IA gerativa permite que eles ampliem a produção de propaganda. A escrita, a tradução e a postagem de conteúdos agora 🏵 podem ser feitas de maneira mais eficiente através do uso de ferramentas de IA, abaixando a barreira para a criação 🏵 de campanhas de desinformação.