Adolescente de Massachusetts acusado de doble homicidio utilizó ChatGPT para buscar fantasías de asesinato familiar, según fiscales

Puntos clave

• Arjun Aravind, de 17 años, de Massachusetts, fue procesado el jueves acusado de asesinato en conexión con las muertes de su madre y hermano menor.
• Los fiscales dicen que los investigadores descubrieron que Aravind utilizó ChatGPT, un chatbot de IA creado por OpenAI, para buscar historias ficticias que involucraban matar a miembros de la familia antes de los supuestos crímenes.
• Aravind se declaró no culpable en el tribunal de distrito de Concord y fue encarcelado sin fianza.
• Las autoridades no han dicho públicamente que ChatGPT proporcionara instrucciones para la violencia, solo que las búsquedas forman parte de su investigación.

Un adolescente de 17 años de Massachusetts acusado de matar a su madre y hermano menor compareció en el tribunal el jueves por la mañana. Los fiscales dicen que parte de su caso involucra el uso de ChatGPT.

Arjun Aravind fue procesado en el tribunal de distrito de Concord, donde se presentó una declaración de no culpable en su nombre. El juez ordenó su encarcelamiento sin fianza.

Según reportó The Guardian, los investigadores descubrieron que Aravind utilizó internet y ChatGPT para buscar historias de fantasía que involucraban el asesinato de miembros de la familia. Los fiscales no han alegado que el chatbot le dio instrucciones o un plan. Las búsquedas parecen citarse como evidencia de intención.

¿Qué tiene que ver ChatGPT con este caso?

ChatGPT es una herramienta de IA basada en texto que puede escribir historias y mantener conversaciones. Los fiscales dicen que Aravind la utilizó para encontrar o generar contenido ficticio sobre violencia familiar, considerando esa actividad como relevante para establecer motivo.

Esta no es una afirmación de que el chatbot causara un crimen. Es más similar a cómo los investigadores en casos antiguos podrían señalar que un sospechoso había buscado temas relacionados en Google. El historial de búsqueda muestra en qué estaba pensando alguien, no qué le dijo una herramienta que hiciera. Esa distinción importa, y vale la pena tenerla en cuenta mientras crece la cobertura de este caso.

OpenAI tiene políticas de contenido diseñadas para bloquear material violento o dañino. Si esos filtros fueron activados o eludidos aquí no ha sido confirmado públicamente. Es el detalle más probable que determine cómo se reporta este caso a continuación.

¿Qué sucede ahora?

Aravind permanece en custodia. El caso pasa a un tribunal superior dada la gravedad de los cargos. Debido a que tiene 17 años, pueden surgir preguntas sobre si será procesado como adulto, aunque los fiscales aún no se han pronunciado al respecto.

Preguntas frecuentes

¿Puede ChatGPT instruir a alguien para cometer violencia?

OpenAI integra filtros en ChatGPT para rechazar solicitudes de contenido dañino. No ha surgido evidencia de que el chatbot proporcionara instrucciones aquí. Los fiscales dicen que las búsquedas eran de historias ficticias, no orientación operativa.

¿Deberían los padres preocuparse por lo que sus hijos le piden a los chatbots de IA?

Las plataformas de chatbot mantienen registros de conversaciones, y esos registros pueden ser citados en investigaciones criminales, como muestra este caso. Los padres que deseen supervisar el uso de IA de sus hijos deben verificar si hay configuraciones de seguridad familiar disponibles en las plataformas que utilizan.