Adolescente de Massachusetts acusado de asesinato doble utilizó ChatGPT para buscar fantasías de matar a la familia, según fiscales

Puntos clave

• Arjun Aravind, de 17 años, de Massachusetts, fue presentado el jueves ante los tribunales acusado de asesinato en relación con las muertes de su madre y hermano menor.
• Los fiscales afirman que los investigadores descubrieron que Aravind utilizó ChatGPT, un chatbot impulsado por inteligencia artificial, para buscar historias ficticias que involucraban el asesinato de miembros de la familia antes de los presuntos crímenes.
• Aravind se declaró no culpable en el juzgado de distrito de Concord y fue mantenido sin derecho a fianza.
• Las autoridades no han dicho públicamente que ChatGPT proporcionara instrucciones para la violencia, solo que las búsquedas forman parte de su investigación.

Un adolescente de 17 años de Massachusetts acusado de matar a su madre y hermano menor compareció ante los tribunales el jueves por la mañana, y los fiscales afirman que parte de su caso involucra su uso de ChatGPT, el chatbot de inteligencia artificial ampliamente utilizado creado por OpenAI.

Arjun Aravind fue presentado ante el juzgado de distrito de Concord. Se presentó una declaración de no culpabilidad en su nombre. El juez ordenó que fuera mantenido sin derecho a fianza.

Según el fiscal de distrito, tal como informó por primera vez The Guardian, los investigadores descubrieron que Aravind había utilizado internet y ChatGPT para buscar historias de fantasía que involucraban el asesinato de miembros de la familia. Los fiscales no han alegado que ChatGPT le haya dado instrucciones o un plan. Las búsquedas parecen ser citadas como evidencia de intención más que como causa.

¿Qué tiene que ver ChatGPT con este caso?

ChatGPT es una herramienta de inteligencia artificial basada en texto que puede responder preguntas, escribir historias y mantener conversaciones. Los fiscales dicen que Aravind la utilizó para encontrar o generar contenido ficticio sobre violencia familiar, y están considerando esa actividad como relevante para establecer el móvil.

Esta no es una afirmación de que el chatbot causara un crimen. Es más parecido a cómo los investigadores en casos antiguos podrían anotar que un sospechoso buscó temas relacionados en Google. La distinción es importante: un historial de búsqueda muestra en qué estaba pensando alguien, no qué le ordenó hacer una herramienta.

OpenAI, la empresa detrás de ChatGPT, tiene políticas de contenido destinadas a bloquear la generación de material violento o dañino. Aún no se ha confirmado públicamente si esos filtros fueron activados o evitados en este caso.

¿Qué sucede a continuación?

Aravind permanece en custodia. El caso se traslada a un tribunal de mayor jerarquía para procedimientos formales dada la gravedad de los cargos. Debido a que tiene 17 años, también pueden surgir preguntas sobre si será juzgado como adulto, aunque los fiscales no lo han abordado públicamente aún.

La investigación está en curso.

Preguntas frecuentes

¿Puede ChatGPT instruir a alguien para cometer violencia?

OpenAI incorpora filtros en ChatGPT específicamente para rechazar solicitudes de contenido dañino. No ha surgido evidencia en este caso de que el chatbot proporcionara instrucciones. Los fiscales dicen que las búsquedas eran de historias ficticias, no de orientación operativa.

¿Deberían preocuparse los padres por lo que sus hijos preguntan a los chatbots de inteligencia artificial?

Los chatbots de inteligencia artificial guardan registros de conversaciones, y esos registros pueden ser citados en investigaciones criminales, como ilustra este caso. Los padres que deseen supervisar el uso de inteligencia artificial de sus hijos pueden verificar si hay configuraciones de seguridad familiar disponibles en las plataformas que utilizan sus hijos.