Google testa marca d'água para sinalizar imagens criadas por IA

O desenvolvimento cada vez mais rápido das ferramentas de inteligência artificial (IA) tem criado um temor crescente: o aperfeiçoamento das imagens "deep fake" a um ponto em que seja quase impossível diferenciá-las de registros reais.

Para tentar combater isso, o Google está testando uma marca d’água digital para detectar e sinalizar imagens feitas por IA.

Desenvolvido pela Deepmind, o braço de IA do Google, o SynthID identificará imagens geradas por máquinas.

Ele funciona incorporando alterações em pixels individuais nas imagens, de modo que as marcas d'água sejam invisíveis ao olho humano, mas detectáveis pelos computadores.

Mas a DeepMind disse que o sistema não é "infalível contra a manipulação extrema de imagens".

À medida que a tecnologia evolui, torna-se cada vez mais complexo saber a diferença entre imagens reais e imagens geradas artificialmente, como mostra o questionário, em inglês, AI ou Real da BBC Bitesize.

Os geradores de imagens de IA se tornaram populares, como a famosa ferramenta Midjourney, que ostenta o número de mais de 14,5 milhões de usuários.

Eles permitem que as pessoas criem imagens em segundos, inserindo instruções de texto simples. Isso levanta questões sobre direitos autorais e propriedade em todo o mundo.

O Google possui seu próprio gerador de imagens chamado Imagen. O novo sistema de criação e verificação de marcas d'água só se aplica a imagens criadas com esta ferramenta.

Invisível

Marcas d'água são normalmente um logotipo ou texto adicionado a uma imagem para mostrar a propriedade, além de parcialmente dificultar a cópia e uso da imagem sem permissão.

Elas estão nas imagens usadas no site da BBC News, que geralmente incluem uma marca d'água de direitos autorais no canto inferior esquerdo.

Mas esses tipos de marcas d'água não são adequados para identificar imagens geradas por Al porque podem ser facilmente editadas ou recortadas.

As empresas de tecnologia usam uma técnica chamada hashing para criar "impressões digitais" de vídeos de abuso conhecidos, para que possam identificá-los e removê-los rapidamente, caso comecem a se espalhar online.

Mas esses também podem ser corrompidos se o vídeo for cortado ou editado.

O sistema do Google cria uma marca d'água efetivamente invisível, que permitirá que as pessoas usem seu software para descobrir instantaneamente se a imagem é real ou feita por uma máquina.