Tres pioneros de la IA se enfrentan sobre modelos abiertos en conferencia de Las Vegas

Puntos clave

• Geoffrey Hinton, Fei-Fei Li y Andrew Ng argumentaron contra el control corporativo total de la IA en la conferencia Ai4 en Las Vegas.
• Hinton afirmó que la batalla sobre modelos de IA de pesos abiertos, donde el modelo entrenado se libera gratuitamente al público, ya está perdida.
• Andrew Ng advirtió que los modelos de pesos abiertos chinos podrían convertirse en la infraestructura de IA dominante en Asia, África y el mundo en desarrollo.
• Fei-Fei Li rechazó el planteamiento de abierto versus cerrado como una falsa dicotomía, pidiendo un enfoque matizado y estratificado.
• Los tres coincidieron en que alguna forma de regulación es necesaria, siendo Hinton claro en que las decisiones no pueden dejarse solo en manos de magnates tecnológicos.

Tres de los nombres más influyentes en la historia de la inteligencia artificial compartieron escenario en Las Vegas la semana pasada, y no pudieron llegar a un acuerdo completo. Pero en un aspecto estuvieron unidos: un pequeño grupo de empresas poderosas no debe decidir cómo se desarrolla la IA, ni quién puede utilizarla.

El evento fue la conferencia Ai4, informada por primera vez por TechCrunch AI. Los oradores fueron Geoffrey Hinton, quien ganó el Premio Nobel de Física 2024 por su trabajo fundamental en IA; Fei-Fei Li, la profesora de Stanford y CEO de World Labs que ayudó a construir la investigación de reconocimiento de imágenes que impulsó el actual auge de la IA; y Andrew Ng, cofundador de Coursera y una de las voces más seguidas en el campo.

¿De qué se trata realmente el debate sobre pesos abiertos?

IA de pesos abiertos significa que una empresa entrena un gran modelo de IA y luego lo libera gratuitamente para que cualquiera pueda descargarlo, modificarlo y ejecutarlo. Esto es diferente del software de código abierto, donde puedes leer y editar el código subyacente. Con pesos abiertos obtienes el cerebro terminado, no el plano.

Hinton trazó esa línea claramente. "El código abierto es excelente. Muestras el código a la gente, y muchas personas examinan las líneas de código y dicen: 'Oh, hay un error'", dijo. "Pesos abiertos significa que entrenas un modelo grande y luego le das los pesos a la gente. Eso es muy diferente".

Su preocupación: una vez que un modelo poderoso está disponible para descargar gratuitamente, cualquiera puede gastar una fracción del costo original de entrenamiento para enseñarle a hacer cosas dañinas, como ayudar a planificar un ciberataque.

Sin embargo, Hinton también admitió que el debate ha terminado. "Esa batalla ya se ha perdido", dijo. Los modelos de pesos abiertos existen, la barrera de los enormes costos de entrenamiento ha desaparecido, y ningún anuncio de ningún laboratorio cambiará eso.

¿Por qué importa esto para la gente común?

Las apuestas prácticas son altas. Ng lo planteó como una competencia geopolítica. Los modelos de pesos abiertos chinos ya se están propagando por África y Asia. Si se convierten en la infraestructura de IA predeterminada para miles de millones de personas, argumentó, esos modelos podrían moldear cómo poblaciones enteras encuentran ideas sobre democracia y derechos humanos.

"La IA es una fuente tremenda de poder blando", dijo Ng, añadiendo que el cabildeo y la difusión del miedo en Estados Unidos están dificultando que la IA de código abierto americana compita en costo.

Li cuestionó enmarcar toda la cuestión como una lucha binaria. Comparó la IA con la física nuclear: los artículos científicos se publican abiertamente, el uranio en bruto está estrictamente regulado, y el trabajo de laboratorio se sitúa entre los dos extremos. La apertura total y el cierre completo son ambos la respuesta equivocada.

"Este debate, especialmente al nivel tan generalizado de 'solo podemos tolerar uno', es un falso debate", dijo. "Necesitamos llegar a un nivel de matiz".

¿Qué sucede ahora?

La regulación, acordaron los tres, es inevitable. El desacuerdo está en los detalles. Hinton fue claro sobre quién no debe estar en la sala cuando se escriban esas reglas. "No puedes dejarlo en manos de personas como Elon Musk y Mark Zuckerberg para decidir cómo debe hacerse la IA", dijo.

Para cualquiera que utilice herramientas de IA en el trabajo, la escuela o el hogar, el resultado de este debate decidirá qué modelos están disponibles, a qué precio y con qué restricciones incorporadas.