¿Debería tu IA ayudarte a hacer cualquier cosa que pidas, sin importar qué?

Puntos clave

• El fundador de Comma AI, George Hotz, argumentó públicamente que la IA debería estar completamente alineada con los deseos de cada usuario individual, incluyendo ayudar con actividades ilegales.
• Hotz comparó la IA alineada al usuario con un arma, que no juzga cómo se utiliza.
• El debate sigue a un documento de política llamado AI 2040: Plan A, del AI Futures Institute, que propuso ralentizar el desarrollo de IA durante 14 años.
• La mayoría de los asistentes de IA convencionales, como ChatGPT y Claude, son servicios gestionados centralmente que rechazan solicitudes consideradas dañinas.
• El argumento plantea una pregunta real sobre a quién debería servir finalmente la IA: al usuario individual o a la sociedad en general.

George Hotz, fundador de Comma AI (una empresa que desarrolla software de asistencia al conductor) y figura conocida en la comunidad de hackers, publicó un argumento durante el fin de semana que es, para decirlo suavemente, un tema para reflexionar.

Su posición: una IA adecuadamente alineada, es decir, una IA que verdaderamente sirve al usuario, debería ayudar a ese usuario a hacer lo que pida. Pedir químicos sospechosos. Explicar procesos ilegales. Ayudar a planificar un crimen. Si el usuario lo quiere, la IA debería asistir.

Hotz comparó este tipo de IA con un arma. Un arma no hace preguntas.

Respondía a un documento de política llamado AI 2040: Plan A, publicado por el AI Futures Institute. El documento propone que los investigadores de IA del mundo ralenticen voluntariamente el desarrollo durante 14 años para dar a la humanidad tiempo de resolver cuestiones de seguridad. Hotz cree que ese es el enfoque equivocado. Él sostiene que la verdadera solución para la seguridad de la IA son los modelos de IA locales, software que funciona en tu propio dispositivo y solo responde ante ti, en lugar de servicios gestionados centralmente como ChatGPT o Claude que una empresa controla y restringe.

Esa parte de su argumento es genuinamente interesante. Como señaló TechCrunch AI en su cobertura, la mayoría de la IA hoy existe en servidores de empresas, está moldeada por reglas corporativas y puede ser modificada o desactivada en cualquier momento. Una IA verdaderamente personal, que funcione en tu teléfono y trabaje solo para ti, es algo completamente diferente. Más como una herramienta privada que como un servicio de suscripción.

Pero Hotz va más allá de ese punto razonable hacia un territorio más espinoso. Su planteamiento es esencialmente: libertad significa sin límites, punto final.

El problema práctico es que la libertad nunca ha funcionado exactamente de esa manera, para nadie. Las carreteras, las normas de seguridad alimentaria, la ley de contratos, todo esto son restricciones que permiten que la red más amplia de la sociedad funcione. Los productos utilizados por millones de personas existen dentro de esa red les guste o no a sus creadores.

Aquí está la versión clara: si una IA ayuda a una persona a planificar algo que perjudica a otra, la víctima no consintió en ese acuerdo. La libertad del primer usuario termina en algún lugar cerca del bienestar del segundo.

Para usuarios ordinarios, nada de esto cambia lo que las herramientas de IA pueden hacer hoy. ChatGPT, Claude y asistentes similares seguirán rechazando solicitudes que crucen líneas legales o éticas claras. Los modelos de IA locales existen y están mejorando, pero los verdaderamente capaces aún requieren configuración técnica que la mayoría de las personas encontraría frustrante.

Mantente atento a este espacio, sin embargo. A medida que modelos más pequeños se vuelven más capaces, la pregunta de quién controla tu IA y qué reglas sigue importará cada vez más para la vida cotidiana.