Sainsbury's pausa la IA de escaneo facial tras acusar erróneamente a un cliente de robo

Puntos clave

• Sainsbury's pausó la IA de reconocimiento facial en una de sus tiendas del Reino Unido tras una identificación errónea de un presunto ladrón.
• El cliente Matt Arnold, de 46 años, fue expulsado y describió sentirse "avergonzado, mortificado" e "impotente".
• La tienda utiliza Facewatch, que compara los rostros de los clientes con una lista de vigilancia de delincuentes conocidos.
• Sainsbury's culpó al "error humano" y no a la tecnología en sí de la expulsión injustificada.
• El incidente intensifica las preguntas sobre si las herramientas de identificación por IA del comercio minorista cuentan con salvaguardas adecuadas para clientes inocentes.

Matt Arnold entró en un supermercado Sainsbury's esperando comprar alimentos. Salió acusado de robar algo que no había cometido.

El sistema de escaneo facial de la tienda, un producto llamado Facewatch, lo había identificado como un delincuente conocido. Facewatch captura la imagen de cada persona que entra en una tienda y la verifica en tiempo real contra una lista privada de vigilancia de personas previamente capturadas o sospechosas de robo. Cuando encuentra una coincidencia, alerta al personal.

En el caso de Arnold, la coincidencia fue errónea.

"Estaba avergonzado, mortificado incluso, y me sentía bastante humillado e impotente", le dijo a The Guardian, que informó primero sobre la historia.

¿Qué es Facewatch y cómo termina en un supermercado?

Facewatch es un servicio de reconocimiento facial vendido a minoristas. Piénsalo como un tablón de se busca digital: las tiendas suben fotos de personas capturadas robando, y el software verifica silenciosamente cada nuevo rostro en la puerta contra esa lista. Sainsbury's es uno de varios minoristas del Reino Unido que lo han probado, esperando reducir pérdidas por robos. La mayoría de los clientes no saben que están siendo escaneados.

Esa invisibilidad es lo que debería preocuparte. Nuestra historia del 28 de julio sobre cámaras de IA instaladas en farolas encontró que grupos de libertades civiles advierten que Gran Bretaña está construyendo una red de vigilancia por la que nadie votó. Las tiendas minoristas son una versión más silenciosa de la misma tendencia.

¿Entonces de quién es la culpa?

Sainsbury's dice que la tecnología no es la culpable, señalando el "error humano" en algún lugar del proceso, ya sea al agregar a alguien a la lista de vigilancia o al actuar según la alerta. Esa distinción importa, pero no resuelve completamente la preocupación. Un sistema que señala a la persona equivocada causa un daño real independientemente de quién presione el botón final.

Sainsbury's ha pausado el uso de Facewatch en la tienda involucrada mientras investiga.

¿Qué significa esto para los clientes?

Si compras en algún lugar que utiliza tecnología de escaneo facial, es posible que te verifiquen sin ser informado, y sin una forma clara de impugnar una coincidencia falsa antes de que el personal actúe. La experiencia de Arnold muestra qué tan rápido se vuelve humillante. No tuvo proceso de apelación en la puerta, sin explicación inmediata, sin forma de probar en el acto que el sistema había cometido un error.

Las normas de protección de datos del Reino Unido requieren que los minoristas sean transparentes sobre el reconocimiento facial y tengan una base legal para usarlo. La Oficina del Comisionado de Información, el vigilante de privacidad de datos del Reino Unido, ha advertido previamente que el estándar para desplegar este tipo de tecnología en espacios públicos es alto.

La pregunta práctica, la que la experiencia de Arnold hace inevitable, es cómo se ve el proceso de apelación cuando la máquina se equivoca. Sainsbury's dice que sigue comprometida con la lucha contra el robo minorista, pero una pausa no es una solución. Hasta que los minoristas publiquen procedimientos claros y públicos para impugnar una coincidencia falsa, cada cliente que pasa por una cámara Facewatch corre ese riesgo confiando.