OpenAI dijo que GPT-2 era demasiado peligroso para liberar. ¿Deberíamos haberlo creído?

Puntos clave

• El 14 de febrero de 2019, OpenAI anunció un modelo de lenguaje llamado GPT-2 pero se negó a liberarlo públicamente, diciendo que los riesgos de mal uso eran demasiado grandes.
• GPT-2 fue el predecesor directo de los modelos que ahora potencian ChatGPT, Claude y chatbots de IA similares.
• Al menos un investigador encontró el anuncio poco útil y los riesgos declarados exagerados.
• El episodio plantea un patrón que vale la pena observar: las empresas de IA que hablan de peligro también pueden estar hablando de poder, y atrayendo inversores en el proceso.

¿Qué pasó realmente en 2019?

OpenAI construyó un modelo de lenguaje, un tipo de software entrenado en cantidades masivas de texto para que pueda escribir, resumir y responder preguntas, y luego lo anunció al mundo mientras se negaba a compartirlo. La empresa llamó al modelo GPT-2 y dijo que era simplemente demasiado riesgoso para ponerlo en manos públicas.

La preocupación, como la planteó OpenAI, era el abuso. Los actores maliciosos podrían usar GPT-2 para escribir noticias falsas a escala, o inundar internet con información errónea convincente. Un miedo razonable, en teoría.

En la práctica, al menos un investigador quedó decepcionado. Escribiendo en The Guardian, el investigador de Stanford John Thickstun recuerda haber sentido molestia en ese momento. Sin acceso al modelo real, no podía estudiarlo, probarlo o aprender mucho de él. La advertencia fue clara; la sustancia, débil.

¿Quién se beneficia cuando una empresa de IA grita peligro?

Esta es la pregunta más incisiva, y Thickstun la plantea directamente.

Decirle al mundo que tu tecnología es peligrosa también es, discretamente, decirle al mundo que tu tecnología es poderosa. La tecnología poderosa atrae inversores. Los inversores escriben cheques grandes. La empresa que acaba de advertir a todos sobre su IA aterradora ahora está mejor financiada para construir más.

Esto no es una conspiración. Es solo un incentivo que vale la pena notar.

GPT-2 finalmente fue liberado en su totalidad, en etapas, más tarde en 2019. El mal uso catastrófico que OpenAI temía no se materializó en ninguna ola obvia y documentada. El modelo se convirtió en una herramienta de investigación. Sus sucesores, GPT-3 y luego GPT-4, se convirtieron en el motor dentro de productos utilizados por cientos de millones de personas hoy.

¿Significa esto que las advertencias de seguridad siempre son incorrectas?

No. Algunos riesgos de IA son reales y algunas advertencias merecen atención seria. El punto no es descartar cada precaución de cada laboratorio.

El punto es preguntar quién está hablando, qué tienen que ganar y si la evidencia detrás de la advertencia es algo que los externos realmente pueden examinar. Una afirmación de seguridad respaldada por investigación publicada y revisión independiente es diferente de un comunicado de prensa sin modelo adjunto.

Cuando una empresa de IA anuncia a continuación que su último sistema es tanto aterradoramente capaz como demasiado sensible para compartir abiertamente, vale la pena pausar. Pregunta qué pueden verificar los investigadores sin la cooperación de la empresa. Pregunta quién financia la siguiente ronda de inversión después de que terminen los titulares. Pregunta si el peligro descrito es específico y medible, o vívido y vago.

La curiosidad y el escepticismo no son opuestos a tomar la IA en serio. Es lo que realmente se ve tomar la IA en serio.