Tres pioneros de la IA chocan sobre modelos abiertos en conferencia de Las Vegas

Puntos clave

• Geoffrey Hinton, Fei-Fei Li y Andrew Ng argumentaron en contra del control corporativo total de la IA en la conferencia Ai4 en Las Vegas.
• Hinton afirmó que la batalla sobre modelos de IA con pesos abiertos, donde el modelo entrenado se libera gratuitamente al público, ya se ha perdido.
• Andrew Ng advirtió que los modelos de pesos abiertos chinos podrían convertirse en la infraestructura de IA dominante en Asia, África y el mundo en desarrollo.
• Fei-Fei Li calificó el enfoque abierto versus cerrado como un falso debate, argumentando a favor de niveles escalonados de apertura en diferentes partes del ecosistema de IA.
• Los tres coincidieron en que se necesita alguna forma de regulación, siendo Hinton quien afirmó que las decisiones no pueden dejarse únicamente en manos de magnates tecnológicos.

Tres de los nombres más influyentes en la historia de la inteligencia artificial compartieron escenario en Las Vegas la semana pasada y no pudieron estar totalmente de acuerdo. En un punto sí estuvieron unidos: un pequeño grupo de empresas poderosas no debería decidir cómo se desarrolla la IA, ni quién tiene derecho a usarla.

El evento fue la conferencia Ai4. Geoffrey Hinton ganó el Premio Nobel de Física 2024 por su trabajo fundamental en IA. Fei-Fei Li es la profesora de Stanford y CEO de World Labs que ayudó a construir la investigación de reconocimiento de imágenes que impulsó el auge actual de la IA. Andrew Ng cofundó Coursera y es una de las voces más seguidas en el campo.

¿De qué trata realmente el debate sobre pesos abiertos?

Pesos abiertos de IA significa que una empresa entrena un modelo de IA grande y lo libera gratuitamente para que cualquiera lo descargue y ejecute. Esto difiere del software de código abierto, donde puedes leer y editar el código subyacente. Con pesos abiertos obtienes el cerebro terminado, no el plano.

Hinton marcó esa línea con precisión. "El código abierto es excelente. Muestras a la gente el código, y muchas personas examinan las líneas de código y dicen, 'Oh, hay un error'", dijo. "Pesos abiertos significa que entrenas un modelo grande y luego das a la gente los pesos. Eso es muy diferente".

Su preocupación: una vez que un modelo poderoso está disponible gratuitamente para descargar, cualquiera puede gastar una fracción del costo de entrenamiento original para enseñarle tareas dañinas, como planificar un ciberataque. Sin embargo, también reconoció que el debate ha terminado. "Esa batalla se ha perdido", dijo. Existen modelos de pesos abiertos, la barrera de costos de entrenamiento enormes ha desaparecido, y ningún anuncio cambiará eso.

¿Por qué esto importa para la gente común?

Las apuestas prácticas son grandes. Ng lo planteó como una contienda geopolítica. Los modelos de pesos abiertos chinos ya se están extendiendo por África y Asia. Si se convierten en la infraestructura de IA predeterminada para miles de millones de personas, estos modelos podrían moldear cómo poblaciones enteras encuentran ideas sobre democracia y derechos humanos. Nuestro artículo anterior sobre la competitividad de IA de China, publicado el 10 de agosto, encontró que los modelos chinos son más baratos y ampliamente adoptados, con la brecha cerrándose más rápido de lo que la mayoría esperaba.

"La IA es una tremenda fuente de poder blando", dijo Ng, agregando que el cabildeo en Estados Unidos está dificultando que la IA de código abierto estadounidense compita en costo.

Li rechazó el planteamiento binario. Comparó la IA con la física nuclear: los artículos científicos se publican abiertamente, el uranio en bruto está estrictamente regulado, el trabajo de laboratorio se sitúa entre los dos. La apertura total y el cierre completo son ambas respuestas incorrectas. Para cualquiera que construya o implemente herramientas de IA en el trabajo o en la escuela, esa distinción importa: las reglas que Li está pidiendo tratarían un conjunto de datos de investigación de manera diferente a un modelo capaz de generar instrucciones de armas.

"Este debate, especialmente a nivel tan generalizado como 'solo podemos tolerar uno', es un falso debate", dijo. "Necesitamos llegar a un nivel de matiz".

¿Qué sucede ahora?

La regulación, coincidieron los tres, es inevitable. El desacuerdo está en los detalles. Hinton fue directo sobre quién no debería estar en la sala cuando se escriban esas reglas. "No puedes dejarlo en manos de personas como Elon Musk y Mark Zuckerberg para decidir cómo se debe hacer la IA", dijo.

La interpretación honesta aquí es que el barco de los pesos abiertos ya ha zarpado, y la verdadera batalla ahora es sobre qué modelos abiertos se propagan más lejos y cuyos valores están codificados en ellos.