As pessoas têm dificuldade em distinguir entre rostos de pessoas reais e rostos sintetizados AI StyleGAN2. As pessoas também consideram os rostos gerados por IA mais confiáveis. As pessoas não podem distinguir entre um rosto gerado pela Inteligência Artificial – usando StyleGAN2 – e um rosto real, dizem pesquisadores, que estão pedindo salvaguardas para evitar “deep fakes”.
As pessoas não conseguem distinguir entre um rosto gerado pela Inteligência Artificial – usando StyleGAN2 – e um rosto real, dizem pesquisadores, que estão pedindo salvaguardas para evitar “deep fakes”.
Texto, áudio, imagem e vídeo sintetizados por IA já foram usados para a chamada “pornografia de vingança”, fraude e propaganda.
A Dra. Sophie Nightingale, da Lancaster University, e o professor Hany Farid, da Universidade da Califórnia, em Berkeley, conduziram experimentos nos quais os participantes foram solicitados a distinguir rostos sintetizados StyleGAN2 de última geração de rostos reais e qual o nível de confiança que os rostos evocavam.
Os resultados revelaram que os rostos gerados sinteticamente não são apenas altamente fotorrealistas, mas quase indistinguíveis dos rostos reais e são até considerados mais confiáveis.
“Nossa avaliação do fotorrealismo de rostos sintetizados por IA indica que os mecanismos de síntese passaram pelo vale misterioso e são capazes de criar rostos indistinguíveis – e mais confiáveis – do que rostos reais.”
Os pesquisadores alertam para as implicações da incapacidade das pessoas de identificar imagens geradas por IA.
“Talvez a mais perniciosa seja a consequência de que em um mundo digital em que qualquer imagem ou vídeo pode ser falsificado, a autenticidade de qualquer gravação inconveniente ou indesejada pode ser questionada.”
No primeiro experimento, 315 participantes classificaram 128 rostos retirados de um conjunto de 800 como reais ou sintetizados. Sua taxa de precisão foi de 48%, perto de uma chance de desempenho de 50%.
Em um segundo experimento, 219 novos participantes foram treinados e receberam feedback sobre como classificar rostos. Eles classificaram 128 faces tiradas do mesmo conjunto de 800 faces do primeiro experimento – mas, apesar do treinamento, a taxa de precisão só melhorou para 59%.
Os pesquisadores decidiram descobrir se as percepções de confiabilidade poderiam ajudar as pessoas a identificar imagens artificiais.
“Os rostos fornecem uma rica fonte de informações, com exposição de apenas milissegundos suficientes para fazer inferências implícitas sobre características individuais, como confiabilidade. Nós nos perguntamos se rostos sintéticos ativam os mesmos julgamentos de confiabilidade. Caso contrário, uma percepção de confiabilidade pode ajudar a distinguir rostos reais de sintéticos”.
Um terceiro estudo pediu a 223 participantes que classificassem a confiabilidade de 128 rostos do mesmo conjunto de 800 rostos em uma escala de 1 (muito pouco confiável) a 7 (muito confiável).
A classificação média para rostos sintéticos foi 7,7% MAIS confiável do que a classificação média para rostos reais, o que é estatisticamente significativo.
“Talvez o mais interessante é que descobrimos que rostos gerados sinteticamente são mais confiáveis do que rostos reais.”
Os rostos negros foram classificados como mais confiáveis do que os rostos do sul da Ásia, mas, por outro lado, não houve efeito entre as raças.
As mulheres foram classificadas como significativamente mais confiáveis do que os homens.
“Um rosto sorridente é mais provável de ser classificado como confiável, mas 65,5% dos rostos reais e 58,8% dos rostos sintéticos estão sorrindo, então a expressão facial por si só não pode explicar por que os rostos sintéticos são classificados como mais confiáveis.”
Os pesquisadores sugerem que os rostos sintetizados podem ser considerados mais confiáveis porque se assemelham a rostos médios – que são considerados mais confiáveis.
Para proteger o público de “deep fakes”, eles também propuseram diretrizes para a criação e distribuição de imagens sintetizadas.
“As salvaguardas podem incluir, por exemplo, a incorporação de marcas d’água robustas nas redes de síntese de imagem e vídeo que forneceriam um mecanismo downstream para identificação confiável. Como é a democratização do acesso a essa poderosa tecnologia que representa a ameaça mais significativa, também incentivamos a reconsideração da abordagem frequentemente laissez-faire ao público e a liberação irrestrita de código para qualquer pessoa incorporar em qualquer aplicativo.
“Neste momento crucial, e como outros campos científicos e de engenharia fizeram, encorajamos a comunidade gráfica e de visão a desenvolver diretrizes para a criação e distribuição de tecnologias de mídia sintética que incorporem diretrizes éticas para pesquisadores, editores e distribuidores de mídia.”
Existem até empresas, como a Reblika, que cria influenciadores digitais, personagens que “possuem” vida social, interagem com outros e tem perfis em redes sociais. Abaixo alguns exemplos.
Publicado em 18/02/2022 17h51
Artigo original:
Estudo original: