Los rostros generados por computadora representan verdaderos riesgos de seguridad
Cinco minutos de entrenamiento pueden mejorar significativamente la capacidad de las personas para identificar caras falsas creadas por inteligencia artificial, según muestra una nueva investigación.
Científicos de las Universidades de Leeds, Reading, Greenwich y Lincoln probaron la capacidad de 664 participantes para distinguir entre rostros humanos reales y rostros generados por un software informático llamado StyleGAN3.
Sin ningún tipo de entrenamiento, los superreconocedores (individuos que obtienen puntuaciones significativamente más altas que el promedio en pruebas de reconocimiento facial) identificaron correctamente caras falsas el 41% de las veces, mientras que los participantes con habilidades típicas obtuvieron solo el 31%.
Mientras tanto, un nuevo grupo de participantes que recibió un breve entrenamiento mostró mayor precisión. Los superreconocedores lograron una precisión del 64 % en la detección de rostros falsos, mientras que los participantes típicos obtuvieron una precisión del 51 %.
Los rostros generados por IA suelen presentar errores de renderizado, como dientes desalineados, líneas de cabello inusuales, orejas o pendientes deformados o que no coinciden. Durante la capacitación, se mostraron a los participantes imágenes generadas por IA que mostraban estos defectos.
"Las imágenes de IA son cada vez más fáciles de crear y difíciles de detectar. Pueden usarse con fines maliciosos, por lo que, desde el punto de vista de la seguridad, es crucial que estemos probando métodos para detectar imágenes artificiales", dijo la Dra. Eilidh Noyes de la Facultad de Psicología de la Universidad de Leeds.
"Nuestro estudio muestra que el uso de superreconocedores (personas con una capacidad muy alta de reconocimiento facial) combinado con entrenamiento puede ayudar en la detección de rostros de IA".
El entrenamiento afectó a ambos grupos por igual, lo que sugiere que los superreconocedores pueden usar señales visuales diferentes que los observadores típicos al identificar rostros sintéticos, en lugar de simplemente ser mejores en detectar errores de representación.
La investigación probó rostros creados con StyleGAN3, el sistema más avanzado disponible al momento del estudio. Esto representa un significativo desafío en comparación con investigaciones anteriores con software más antiguo, ya que los participantes de este estudio tendieron a tener un rendimiento inferior al de los participantes de estudios anteriores.
Las futuras investigaciones examinarán si los efectos del entrenamiento perduran en el tiempo y cómo las habilidades de los superreconocedores podrían complementar las herramientas de detección de inteligencia artificial.
"Los rostros generados por computadora representan verdaderos riesgos de seguridad. Se han utilizado para crear perfiles falsos en redes sociales, eludir los sistemas de verificación de identidad y crear documentos falsos. Los rostros generados por software de inteligencia artificial de última generación son extremadamente realistas. A menudo, se considera que los rostros generados por IA son más realistas que los rostros humanos reales", dijo la Dra. Katie Gray, investigadora principal de la Universidad de Reading.
"Nuestro procedimiento de entrenamiento es breve y fácil de implementar. Los resultados sugieren que combinar este entrenamiento con las habilidades naturales de los superreconocedores podría ayudar a abordar problemas del mundo real, como la verificación de identidades en línea".
La investigación ha sido publicada en la revista Royal Society Open Science: Training human super-recognizers’ detection and discrimination of AI-generated faces
