Por qué es cada vez más difícil detectar rostros generados por IA
Los rostros generados por IA se vuelven cada vez más convincentes, lo que dificulta que las personas ordinarias detecten falsificaciones digitales.
Puntos clave
- Investigadores de la Universidad Nacional de Australia reportan que los rostros generados por IA ahora engañan a la mayoría de las personas.
- El entrenamiento para detectar defectos como dedos adicionales ya no es confiable a medida que la IA mejora.
- Un equipo de investigación global está desarrollando métodos de detección sutiles con promesas iniciales.
Detectar rostros generados por IA solía ser fácil. Un dedo adicional, una oreja torcida o dientes que no encajaban bien los delataban. Pero ahora, las herramientas de imagen de IA se están volviendo tan efectivas que estos errores evidentes están desapareciendo. Esto hace mucho más difícil distinguir la foto de una persona real de una generada por computadora.
La profesora Amy Dawel de la Universidad Nacional de Australia (ANU) lidera un equipo de investigación que intenta ayudar a las personas a mantenerse al día. Según reportó por primera vez ThreatVectr, su equipo abarca Australia, Canadá y Reino Unido, y está trabajando en nuevas formas de identificar falsificaciones digitales.
¿Por qué importa esto para la persona promedio? Los estafadores utilizan estos rostros de IA realistas para crear perfiles falsos en aplicaciones de citas, sitios de empleo y redes sociales. Un rostro convincente les ayuda a ganarse la confianza más rápidamente. Esto significa que más personas podrían entregar su dinero o datos personales antes de darse cuenta de que han sido engañadas.
El antiguo consejo de buscar orejas extrañas o contar los dedos ya no es suficiente. Los sistemas de IA han aprendido de sus errores y han mejorado. El equipo de Dawel ahora se enfoca en encontrar signos más sutiles de una falsificación. Creen que las personas aún pueden aprender a detectar rostros de IA pero necesitan un nuevo entrenamiento.
Aún no existe un truco único que funcione, y compartir una lista de verificación solo ayudaría a los defraudadores a mejorar sus falsificaciones. Por ahora, el mejor consejo es ser cauteloso. Si recibes un mensaje inesperado de alguien nuevo, especialmente si evita videollamadas o tiene muy pocas fotos antiguas, sé escéptico. Una búsqueda inversa de imágenes a veces puede detectar una falsificación al ver dónde más aparece la foto en línea.
¿Deben preocuparse los usuarios?
Sí, pero sin entrar en pánico. La tecnología detrás de rostros falsos está avanzando más rápido que la capacidad de la mayoría de las personas para detectarlos. Los investigadores están trabajando arduamente para cerrar esta brecha. Hasta que lo logren, es prudente pausar antes de confiar en la foto de un extraño.
La investigación en curso de Dawel ofrece esperanza. Con nuevos métodos de detección, las personas pronto podrían mejorar en la identificación de rostros falsos de IA. Hasta entonces, una dosis saludable de escepticismo sigue siendo una defensa sensata.
