Vivemos em tempos falsos. A realidade é tão predominante como sempre foi, é claro, mas está se tornando cada vez mais difícil de encontrar.
Talvez em nenhum lugar esse fenômeno seja mais perturbador do que no mundo estranho dos ‘deepfakes’ e outros rostos gerados por computador de pessoas que não existem de verdade (mas parecem estranhamente com a coisa real).
Os cientistas desenvolveram agora uma técnica que pode nos ajudar a detectar se os rostos que estamos olhando são de fato pessoas genuínas, em oposição aos fantasmas conjurados pela inteligência artificial (IA).
De acordo com um novo estudo de pré-impressão conduzido pelo primeiro autor e cientista da computação Hui Guo, da Universidade Estadual de Nova York, o segredo está nos olhos – especificamente nas formas da pupila, ao que parece.
Acima: Uma análise da anatomia do olho, incluindo a forma regular da pupila (em cima), junto com uma comparação de um rosto real e pupilas (à esquerda), com as artificiais (à direita).
Aproximando os olhos artificiais de rostos falsos criados por um sistema de aprendizado de máquina chamado rede adversária generativa (GAN), os pesquisadores notaram algo engraçado sobre os alunos.
Ao contrário dos alunos reais, muitas das falsificações não eram realmente redondas.
“Os alunos têm formas quase circulares para adultos saudáveis”, explica a equipe no estudo.
“Comparando com os rostos reais, observamos que artefatos e inconsistências visíveis podem ser observados nas regiões dos olhos dos rostos gerados pelo GAN.”
De acordo com os pesquisadores, essa estranha oferta se deve aos modelos do GAN que não compreendem a anatomia do olho humano, principalmente no que diz respeito às formas geométricas das pupilas normais.
Para explorar o quão difundido é esse fenômeno revelador, os pesquisadores desenvolveram uma ferramenta de detecção que extrai automaticamente os contornos das pupilas dos olhos em fotos e os avalia para verificar se eles têm formas elípticas.
Em um experimento executando a ferramenta em um banco de dados de 2.000 imagens (1.000 sendo rostos reais e 1.000 sendo falsos), o sistema trabalhou de forma confiável para distinguir os dois grupos.
“Descobrimos que as formas irregulares das pupilas existem amplamente nas faces de alta qualidade geradas pelo StyleGAN, que são diferentes das pupilas humanas reais”, explicam os pesquisadores.
“Nós propomos um novo método de base fisiológica que pode usar as formas irregulares da pupila como uma pista para detectar os rostos gerados pelo GAN, que é simples, mas eficaz.”
De acordo com a equipe, tecnologias como essa podem um dia ajudar a conter o uso malicioso de falsificações de aparência realista, usadas para enganar as pessoas em plataformas de mídia social, entre outros lugares.
Pelo menos até que alguém possa ensinar a IA a forma adequada de um aluno, é claro.
Publicado em 15/09/2021 13h30
Artigo original:
Estudo original: