OpenAI Enfrenta 30 Demandas por Tiroteo en Escuela Canadiense, Acusada de Elegir el Silencio sobre la Seguridad

Puntos clave

• Treinta nuevas demandas fueron presentadas el miércoles en una corte federal de California contra OpenAI y el CEO Sam Altman por personal y estudiantes conectados con el tiroteo escolar de Tumbler Ridge en Canadá.
• Las demandas sostienen que el propio sistema de seguridad automatizado de OpenAI marcó las conversaciones del presunto tirador con ChatGPT sobre violencia con armas, pero la empresa eligió no alertar a las autoridades canadienses.
• Chris Lehane, oficial de asuntos globales de OpenAI, está nombrado en las demandas como participante en una decisión de guardar silencio por preocupaciones sobre la reputación y finanzas de la empresa.
• Después de que la cuenta del sospechoso fue marcada, OpenAI aparentemente solo la "desactivó" en lugar de emitir una prohibición total, lo que las demandas sostienen permitió al sospechoso registrarse nuevamente con una dirección de correo electrónico nueva y recuperar el acceso.
• Jason Kwon, oficial de estrategia de OpenAI, ha llamado públicamente "falsas" las afirmaciones de las demandas.

Treinta nuevas demandas llegaron contra OpenAI esta semana, presentadas por personas que estaban dentro de Tumbler Ridge Secondary School en Columbia Británica cuando ocurrió el tiroteo. No son las primeras. Cubrimos las demandas de abril presentadas por familias de víctimas el 2 de septiembre en "30 Demandas Culpan a ChatGPT por Tiroteo Masivo de Tumbler Ridge Que Mató a Ocho", y ambos conjuntos hacen la misma acusación central: OpenAI sabía que algo estaba mal y no hizo nada.

¿Exactamente qué están alegando las demandas?

El sistema de revisión automatizado de OpenAI, software que escanea conversaciones en busca de contenido peligroso, marcó chats entre el presunto tirador Jesse Van Rootselaar y ChatGPT que tocaban el tema de violencia con armas. El equipo de seguridad de OpenAI entonces recomendó contactar a las autoridades canadienses. Las demandas alegan que Chris Lehane, oficial de asuntos globales de la empresa, fue parte de una decisión de permanecer en silencio en su lugar, impulsada por preocupación sobre la "posición reputacional y financiera" de la empresa.

La segunda acusación es más simple de seguir. Cuando la cuenta fue marcada, OpenAI aparentemente la "desactivó" en lugar de bloquear a Van Rootselaar en toda la plataforma. Según reportes, se registró nuevamente con un correo electrónico diferente y continuó usando el chatbot.

"Proporcionar al Tirador acceso continuo a esta herramienta constituyó asistencia sustancial en sí misma", dicen las demandas.

Para cualquiera que esté observando casos de responsabilidad de IA, el detalle de la desactivación suave es el que vale la pena seguir: sugiere una brecha entre lo que los equipos de seguridad marcan y lo que los equipos de producto realmente aplican.

¿Qué dice OpenAI?

Jason Kwon, oficial de estrategia de OpenAI, publicó en X para calificar las afirmaciones como "falsas". Dijo que es "completamente falso" que las decisiones de seguridad se formen por presiones políticas o de relaciones públicas.

OpenAI enfrenta por separado una demanda de Florida, que acusa a la empresa de ayudar a atacantes en otros tiroteos masivos, incluido uno en la Universidad Estatal de Florida el año pasado.

Preguntas frecuentes

¿Significa esto que ChatGPT es peligroso de usar?

Para la mayoría de las personas, ChatGPT es una herramienta de propósito general para escritura, investigación y tareas cotidianas. Estas demandas se dirigen a una falla específica alegada de no actuar sobre contenido marcado, no al chatbot en sí.

¿Qué podría haber hecho diferente OpenAI, según las demandas?

Las demandas sostienen que la empresa debería haber alertado a la policía canadiense cuando sus propios sistemas levantaron la alarma, y debería haber emitido una prohibición permanente en toda la plataforma en lugar de una desactivación suave que era trivialmente fácil de eludir.