Una investigación pionera en la materia identificó que caras generadas artificialmente superaron a las humanas en credibilidad, pese a que distinguirlas aún es difícil y facilita riesgos de fraude, engaños afectivos y campañas políticas falsas. Fue publicada en la revista científica Journal of Vision, y es la primera que examina la confiabilidad de rostros sintéticos generados con la tecnología de difusión más reciente.
Las imágenes de rostros creados con IA resultan más confiables que las de personas reales, de acuerdo con una investigación difundida por el portal especializado en ciencia y tecnología Phys.org, que advirtió sobre un efecto con consecuencias directas en la desinformación política, el fraude financiero, el robo de identidad y el catfishing, la práctica de crear identidades falsas en línea para engañar a otras personas.
El estudio, publicado en la revista científica Journal of Vision, es el primero que examina la confiabilidad de rostros sintéticos generados con la tecnología de difusión más reciente. El trabajo fue dirigido por Alexis McGuire junto con Paul Taylor y Sophie Nightingale, de la Universidad de Lancaster, Maty Bohacek, de la Universidad de Stanford, y Hany Farid, de la Universidad de California en Berkeley.
El texto recuerda que los seres humanos son expertos en procesar caras reales y pueden evaluarlas automáticamente en apenas 100 milisegundos. Pese a esa capacidad, las imágenes creadas por IA ya alcanzan un nivel de realismo suficiente para llevar a error a las personas cerca de un tercio de las veces, según detalló el portal.
Caras sintéticas versus reales
En una de las pruebas, los participantes observaron 96 rostros de manera aleatoria, con diversidad de raza, género y edad, y debían indicar si cada imagen era real o sintetizada por IA. La precisión media fue de 58,4%, apenas por encima del 50% comparable al azar de lanzar una moneda al aire.
El mismo experimento arrojó, además, un hallazgo inesperado sobre la confianza que generan los rostros sintéticos. Aquellos generados con la tecnología de difusión —la más reciente— fueron calificados como menos realistas que los producidos por GAN, una generación anterior. Aun así, en la evaluación de confianza, los rostros originados con difusión encabezaron la clasificación.
En una prueba posterior, otro grupo de participantes evaluaron la confiabilidad de 96 caras presentadas al azar en una escala de uno (muy poco confiable) a siete (muy confiable). Los rostros reales recibieron la puntuación media más baja: 4,03; las imágenes creadas con GAN alcanzaron una media de 4,36. En tanto, las producidas con el modelo de difusión más nuevo llegaron a 4,70, el valor más alto entre las tres categorías analizadas.
Te puede interesar: https://diarioelnorte.com.ar/romances-con-inteligencia-artificial-alertan-por-vinculos-emocionales/
Realismo y confianza
El hecho de que los rostros sintetizados con tecnología de difusión resultaran menos realistas pero más confiables abrió preguntas sobre la percepción de realismo y el juicio de confianza. “Este hallazgo presenta una paradoja y, por lo tanto, destaca la posibilidad de que los juicios de realismo y confiabilidad estén impulsados por dos mecanismos psicológicos diferentes”, notaron los investigadores.
McGuire advirtió que los rostros creados con tecnología de difusión pueden contribuir a una erosión general de la confianza social. “A medida que las imágenes de IA se vuelven más sofisticadas y más accesibles, como sociedad estamos cada vez más expuestos a rostros generados artificialmente, a menudo en escenarios maliciosos y explotadores, como la desinformación política, el fraude financiero y de identidad, y el catfishing“, afirmó en referencia al estudio que lleva por título “AI-Generated Faces are Becoming More Trustworthy”.
Y alertó: “Es fundamental comprender la amenaza que trae esta democratización de la IA generativa, así como desarrollar estrategias para mitigar los posibles daños a individuos, organizaciones y democracias”.
