Identificando vídeos, Imagens e textos geradas por IA

Desde de 2019 o Flamengo e o conteúdo gerado por inteligência artificial (IA) estão em outro “patamá”, e a confiança em ambos nunca mais foi...

Desde de 2019 o Flamengo e o conteúdo gerado por inteligência artificial (IA) estão em outro “patamá”, e a confiança em ambos nunca mais foi a mesma.

Essa analogia com o Flamengo é uma piadinha ruim com célebre fala do jogador Bruno Henrique sbre a espetacular fase do time durante o comando do técnico Jorge Jesus. A brincadeira de gosto duvidoso mas com alguns níveis de abstrações pode dar uma certa confiança de que esse texto não tenha sido gerado por um algoritmo inteligente. 

Todavia, no caso da IA, estão sendo implementadas ferramentas que usam outra a própria IA para detectar fraudes em vídeos, áudios, imagens e textos. Em uma verdadeira batalha de fogo contra fogo.

Algumas ambiguidades nos vídeos, como uma perna que em um momento está indo e em outro está vindo (com o pé voltado para trás e depois para frente) ou em uma quantidade e formato dos dedos das mãos nada convencional, ou ainda em pernas de cadeiras que não estão alinhadas com as cadeiras acima do tampo das mesas, ainda dão pistas de que esses algoritmos ainda precisam melhorar para que seus resultados fiquem confiáveis, do ponto de vista lógico.

Isso não impedem que continuem sendo usados da mesma forma que alguns retoques digitais feitos por designer humanos também mostrem falhas em determinadas circunstâncias e sigam sendo igualmente utilizados. 

Porém, temos um contexto de falsificações perniciosas que vão além da publicidade comercial. Estamos prestes a assistir uma enxurrada de manipulações do tipo deep faking que podem colocar falas em vídeos com personalidades da política de modo extremamente convincentes dada o grau de realismo que esse sistemas de geração de vídeos por meio de IA conseguem entregar. E dado a facilidade de promover tais materiais, por meio do impulsionamente e do robôs (contas falsas que compartilham qualquer informação e fazem comentários, curtem, entre outras formas de influência digital de modo automático) podem influir na escolha dos eleitores de forma nunca vista antes.

E a capacidade dos órgãos de controle (como o tribunais eleitorais e a polícia especializada) tem se mostrado muito aquém do fenômeno pois, em regra, ainda contam com uma cobertura de bolhas ideológicas que demonizam os próprios meios oficiais de monitoramento e se retroalimentam com um viés de confirmação. 

Como uma forma de ajudar nessa difícil tarefa de separar o joio do trigo surge a ferramenta gratuita online AutoverifAI, ainda em fase de beta teste. Você poderá utilizá-la para detectar conteúdo gerado por IA da seguintes maneiras:

Detectando Vídeos Deepfake

Você pode submeter vídeos de duas maneiras:

1. Upload de um arquivo de vídeo do seu computador:

• Selecione um arquivo de vídeo ou arraste o arquivo para a página.
• Para analisar um vídeo de um aplicativo no seu telefone, você pode baixá-lo para Fotos (iPhone) ou sua Galeria (Android), ou gravar a sua tela.
• Instruções adicionais incluem como gravar sua tela no iPhone ou em dispositivos Android.

2. Colar o link de um vídeo do YouTube:

• Cole a URL de um vídeo do YouTube.
• Para analisar uma seção específica do vídeo, copie a URL do vídeo do YouTube com um carimbo de data/hora específico para analisar os 20 segundos seguintes (ao compartilhar um vídeo do Youtube há uma opção na página que permite escolher em que ponto o vídeo deve começar).

Tipos de Vídeo que Podem Ser Analisados:

Rosto: apenas um rosto no quadro. Estamos trabalhando para melhorar nosso modelo para detectar vídeos com múltiplos rostos.

Duração: entre 20 e 60 segundos. Precisamos de um mínimo de 20 segundos para ter material suficiente para análise. Vídeos mais longos que 60 segundos requerem mais tempo para análise.

Formato: suportamos a maioria dos formatos de vídeo padrão (.mpg, .mv4, .mp4, .mov, .mkv, etc.).

A pontuação Deep Fake indica a probabilidade de um vídeo ter sido manipulado por IA.

Detectando Imagens Geradas por IA

Segundo a ajuda do serviço, você pode submeter imagens de três maneiras:

1. Upload de um arquivo de imagem do seu computador ou smartphone.
2. Copiar e colar uma imagem no campo de busca (não conseguimos reproduzir essa forma nos testes).
3. Copiar e colar a URL de uma imagem (não conseguimos reproduzir essa forma nos testes).

Tipos de Imagem que Podemos Analisar:

📏Tamanho : mín. 100x100 pixels, máx. 2400x2400 pixels.

🖼  Formato: suportamos todos os formatos de imagem padrão (.jpg, .jpeg, .gif, .png, .heif).

A pontuação de Geração por IA indica a probabilidade de uma imagem ter sido gerada ou manipulada por IA.

Detectando Texto Gerado por IA

Para analisar um texto, basta copiá-lo e colá-lo no campo de upload e clicar em enviar. Atualmente, segundo o próprio aplicativo, conseguem analisar textos entre 200 a 500 palavras em inglês.

A pontuação de Geração por IA indica a probabilidade de um texto ter sido gerado ou manipulado por IA.

AutoVerifAI no seu Smartphone

Analise imagens, vídeos e textos no site móvel do AutoVerifAI e compartilhe os resultados diretamente em seus aplicativos de mídia social. O AutoVerifAI também está disponível no WhatsApp e no Telegram, permitindo usar os bots do AutoVerifAI para analisar conteúdo e compartilhar os resultados diretamente no chat ou em outros aplicativos de mídia social.

Como uma ferramente ainda em fase de testes, seu feedback é valioso para aprimoramento do sistema. Se acreditar que o resultado está realmente errado, poderá clicar no botão de relatório e ajudar a aprimorar a ferramenta.

A possibilidade de baixar um relatório da análise do vídeo oferece uma compreensão aprofundada dos resultados, contribuindo assim para uma internet mais segura e transparente. Ainda não é a perfeita mas é mais uma arma contra a falsificação.

Lembrando que a geração de conteúdo por IA em si não é uma ação ilegal ou mesmo antiética. O que temos de estar vigilante é quanto às tentativas de enganar quem consome esse tipo de conteúdo. Tudo em prol de uma web mais confiável e uma democracia com real liberdade de escolha.

Esse é um projeto de inovação da Telefónica Innovación Digital e objetiva acelerar a conexão entre o avanço tecnológico e a criação de um impacto positivo nas pessoas e na sociedade. Em breve deverá ser disponibilizado extensões para navegador, a detecção automática de filtros digitais em imagens e vozes geradas por IA.

Fonte:  AutoverifAI
Visto no Brasil Acadêmico