La gente no puede distinguir entre una cara generada por la Inteligencia Artificial y una cara real dicen los investigadores, que piden salvaguardas para evitar «deep fakes».
Sophie Nightingale de la Universidad de Lancaster y el profesor Hany Farid de la Universidad de California, Berkeley, realizaron experimentos en los que se pidió a los participantes que distinguieran las caras sintetizadas por StyleGAN2 de las caras reales y qué nivel de confianza evocaban las caras.
Los resultados revelaron que las caras generadas sintéticamente no solo son altamente realistas desde el punto de vista fotográfico, sino que son casi indistinguibles de las caras reales e incluso se consideran más confiables.
«Nuestra evaluación del realismo fotográfico de las caras sintetizadas por IA indica que los motores de síntesis han pasado por el valle misterioso y son capaces de crear caras que son indistinguibles, y más confiables, que las caras reales».
Los investigadores advierten sobre las implicaciones de la incapacidad de las personas para identificar imágenes generadas por IA.
«Quizás lo más pernicioso es la consecuencia de que en un mundo digital en el que cualquier imagen o video puede ser falsificado, la autenticidad de cualquier grabación inconveniente o no deseada puede ser cuestionada».
En el primer experimento, 315 participantes clasificaron 128 caras tomadas de un conjunto de 800 como reales o sintetizadas. Su tasa de precisión fue del 48%, cerca de un rendimiento de probabilidad del 50%.
En un segundo experimento, 219 nuevos participantes fueron entrenados y se les dio retroalimentación sobre cómo clasificar las caras. Clasificaron 128 caras tomadas del mismo conjunto de 800 caras que en el primer experimento, pero a pesar de su entrenamiento, la tasa de precisión solo mejoró al 59%.
Los investigadores decidieron averiguar si las percepciones de confiabilidad podrían ayudar a las personas a identificar imágenes artificiales.
«Las caras proporcionan una rica fuente de información, con una exposición de solo milisegundos suficiente para hacer inferencias implícitas sobre rasgos individuales como la confiabilidad. Nos preguntamos si las caras sintéticas activan los mismos juicios de confiabilidad. Si no, entonces una percepción de confiabilidad podría ayudar a distinguir las caras reales de las sintéticas».
Un tercer estudio pidió a 223 participantes que calificaran la confiabilidad de 128 caras tomadas el mismo conjunto de 800 caras en una escala de 1 (muy poco confiable) a 7 (muy confiable).
La calificación promedio para las caras sintéticas fue 7.7% MÁS confiable que la calificación promedio para las caras reales, que es estadísticamente significativa.
«Quizás lo más interesante es que encontramos que las caras generadas sintéticamente son más confiables que las caras reales».
Las caras negras fueron calificadas como más confiables que las caras del sur de Asia, pero por lo demás no hubo ningún efecto en toda la raza.
Las mujeres fueron calificadas como significativamente más confiables que los hombres.
«Es más probable que una cara sonriente sea calificada como confiable, pero el 65.5% de las caras reales y el 58.8% de las caras sintéticas sonríen, por lo que la expresión facial por sí sola no puede explicar por qué las caras sintéticas se califican como más confiables».
Los investigadores sugieren que las caras sintetizadas pueden considerarse más confiables porque se asemejan a las caras promedio, que a su vez se consideran más confiables.
Para proteger al público de las «falsificaciones profundas», también propusieron pautas para la creación y distribución de imágenes sintetizadas.
«Las salvaguardias podrían incluir, por ejemplo, la incorporación de marcas de agua robustas en las redes de síntesis de imágenes y vídeos que proporcionarían un mecanismo posterior para una identificación fiable. Debido a que es la democratización del acceso a esta poderosa tecnología lo que representa la amenaza más significativa, también alentamos la reconsideración del enfoque a menudo laissez-faire para el público y la liberación sin restricciones de código para que cualquiera pueda incorporarlo a cualquier aplicación.
«En este momento crucial, y como lo han hecho otros campos científicos y de ingeniería, alentamos a la comunidad de gráficos y visión a desarrollar pautas para la creación y distribución de tecnologías de medios sintéticos que incorporen pautas éticas para investigadores, editores y distribuidores de medios».
Fuente: Universidad de Lancaster