¿Debería tu IA ayudarte a hacer cualquier cosa que pidas, sin importar qué?

Puntos clave

• George Hotz, fundador de Comma AI, argumentó públicamente que la IA debería estar alineada con los deseos individuales del usuario, incluyendo ayudar en actividades ilegales.
• Hotz comparó una IA alineada con el usuario con un arma, que no juzga cómo se utiliza.
• El debate sigue a un documento de política pública llamado AI 2040: Plan A, del Instituto de Futuros de IA, que propone frenar el desarrollo de IA durante 14 años.
• La mayoría de los asistentes de IA convencionales, incluyendo ChatGPT y Claude, son servicios administrados centralmente que rechazan solicitudes consideradas dañinas.
• El argumento plantea una pregunta real sobre a quién debería servir en última instancia la IA: al usuario individual o a la sociedad en general.

George Hotz, fundador de Comma AI (una empresa que fabrica software de asistencia al conductor) y una figura longeva en la comunidad hacker, publicó un argumento durante el fin de semana que es genuinamente provocador de conversación.

Su postura: una IA debidamente alineada, una que sirva a su usuario, debería ayudar a ese usuario a hacer lo que pida. Pedir químicos sospechosos. Explicar procesos ilegales. Ayudar a planificar un crimen. Si el usuario lo quiere, la IA debería asistir.

Hotz comparó este tipo de IA con un arma. Un arma no hace preguntas.

Respondía a un documento de política pública llamado AI 2040: Plan A, publicado por el Instituto de Futuros de IA. El documento propone que los investigadores de IA del mundo reduzcan voluntariamente el desarrollo durante 14 años para darle a la humanidad tiempo de resolver cuestiones de seguridad. Hotz no está de acuerdo. Cree que la solución real son los modelos de IA locales, software que funciona en tu propio dispositivo y responde solo a ti, en lugar de servicios administrados centralmente como ChatGPT o Claude que una empresa controla y restringe.

Esa parte de su argumento es genuinamente interesante. Como señaló TechCrunch AI en su cobertura, la mayoría de la IA actual reside en servidores de empresas, está moldeada por reglas corporativas y puede ser modificada o desactivada en cualquier momento. Una IA personal que vive en tu teléfono y funciona solo para ti es algo diferente. Más como una herramienta privada que como un servicio de suscripción. AI2Day ha rastreado siete historias sobre alineación de IA en los últimos 90 días, y la tensión entre control del usuario y supervisión central atraviesa todas ellas.

Pero Hotz va más allá de ese punto razonable hacia un territorio más espinoso. Su planteamiento es esencialmente: la libertad significa ausencia de límites.

El problema práctico es que la libertad nunca ha funcionado así para nadie. Las carreteras, las normas de seguridad alimentaria, el derecho contractual: estas son restricciones que hacen que la red más amplia de la sociedad funcione. Los productos utilizados por millones de personas existen dentro de esa red, les guste o no a sus creadores.

Aquí está la versión clara: si una IA ayuda a una persona a planificar algo que daña a otra, la víctima no consintió ese arreglo. La libertad del primer usuario termina en algún lugar cercano al bienestar de la segunda persona.

¿Deberías preocuparte por esto?

Para los usuarios comunes, nada de esto cambia lo que las herramientas de IA pueden hacer hoy. ChatGPT y Claude seguirán rechazando solicitudes que crucen líneas legales o éticas. Los modelos de IA locales existen y están mejorando, pero los capaces aún requieren configuración técnica que la mayoría de las personas encontraría frustrante.

La pregunta de quién controla tu IA y qué reglas sigue tendrá cada vez más importancia conforme los modelos más pequeños mejoren. Hotz está exagerando el caso por la libertad, pero está señalando un cambio real que se aproxima: la brecha entre la IA como servicio corporativo y la IA como herramienta personal se está cerrando, y nadie ha establecido claramente las reglas para lo que sucede cuando lo hace.