OpenAI dijo que GPT-2 era demasiado peligrosa para publicar. ¿Deberíamos haberle creído?

Puntos clave

• El 14 de febrero de 2019, OpenAI anunció un modelo de lenguaje llamado GPT-2 pero se negó a lanzarlo públicamente, diciendo que los riesgos de mal uso eran demasiado grandes.
• GPT-2 fue el predecesor directo de los modelos que ahora impulsan ChatGPT y Claude.
• El investigador de Stanford John Thickstun consideró que el anuncio no fue útil y que los riesgos declarados fueron exagerados.
• El episodio revela un incentivo que vale la pena vigilar: las empresas de IA que hablan sobre el peligro también pueden estar hablando sobre el poder, y atrayendo inversores en el proceso.

¿Qué pasó realmente en 2019?

OpenAI construyó un modelo de lenguaje, un tipo de software entrenado en enormes cantidades de texto para que pueda escribir y responder preguntas, y luego lo anunció mientras se negaba a compartirlo. El modelo era GPT-2. Demasiado riesgoso para manos públicas, dijo la empresa.

La preocupación, tal como la planteó OpenAI, era el abuso: actores maliciosos escribiendo noticias falsas a escala, inundando internet de desinformación convincente. Un miedo razonable, en teoría.

En la práctica, el investigador de Stanford John Thickstun quedó decepcionado. Escribiendo en The Guardian, recuerda haberse sentido molesto. Sin acceso al modelo real, no podía estudiarlo ni aprender mucho de él. La advertencia fue contundente; la sustancia fue escasa.

¿Quién se beneficia cuando una empresa de IA advierte sobre el peligro?

Esta es la pregunta más incisiva, y Thickstun la plantea directamente.

Decirle al mundo que tu tecnología es peligrosa también es, discretamente, decirle al mundo que es poderosa. La tecnología poderosa atrae a los inversores. Los inversores escriben cheques grandes. La empresa que acaba de advertir a todos sobre su IA aterradora ahora está mejor financiada para construir más.

Eso no es una conspiración. Es solo un incentivo que vale la pena notar.

GPT-2 finalmente se lanzó en su totalidad, en etapas, más adelante en 2019. El mal uso catastrófico que OpenAI temía no se materializó en ninguna onda obvia y documentada. Se convirtió en una herramienta de investigación, y sus sucesores se convirtieron en el motor dentro de productos utilizados por cientos de millones de personas en la actualidad.

Cubrimos el patrón más amplio de la exageración en IA y la rendición de cuentas en nuestro artículo sobre la propiedad de modelos abiertos del 17 de julio, donde volvió a surgir la brecha entre lo que las empresas afirman y lo que los investigadores pueden verificar.

¿Esto significa que las advertencias de seguridad siempre son incorrectas?

No. Algunos riesgos de IA son reales y algunas advertencias merecen seria atención. El punto no es descartar cada precaución de cada laboratorio.

Lo que importa es quién está hablando, qué tienen que ganar, y si los externos realmente pueden examinar la evidencia. Una afirmación de seguridad respaldada por investigación publicada y revisión independiente es una criatura diferente de un comunicado de prensa sin modelo adjunto.

Cuando una empresa de IA anuncie a continuación que su último sistema es tanto aterradoramente capaz como demasiado delicado para compartir abiertamente, haz una pausa. Verifica qué pueden verificar los investigadores sin la cooperación de la empresa. Mira quién financia la siguiente ronda de inversión después de que salgan los titulares. Pregúntate si el peligro descrito es específico o simplemente vivido.

La curiosidad y el escepticismo no son opuestos de tomarse la IA en serio. Es lo que tomarse en serio la IA realmente se ve.