Un nuevo proyecto quiere construir datos de entrenamiento de IA abiertos y compartidos que cualquiera pueda inspeccionar
OpenWALDO es un conjunto de datos colectivo que cualquier empresa podría utilizar como base limpia y auditable para entrenar modelos de IA. Por ahora es pequeño. La idea detrás de él no lo es.
Puntos clave
- OpenWALDO, lanzado por Gregory Kurtzer, fundador de CentOS y Rocky Linux, es un conjunto de datos compartido con licencia abierta destinado a ser una base pública para entrenar modelos de IA.
- El proyecto está financiado por CIQ, la empresa de infraestructura de IA de Kurtzer, y actualmente contiene 167.3 mil millones de tokens de referencia extraídos de registros gubernamentales, artículos académicos y literatura de dominio público.
- Los modelos de IA de frontera típicamente se entrenan con decenas de billones de tokens, lo que significa que el conjunto de datos actual de OpenWALDO es una pequeña fracción de lo que los modelos grandes necesitan.
- CIQ argumenta que los datos de entrenamiento ocultos ponen a las empresas en riesgo legal y de seguridad, porque nadie puede verificar qué material protegido por derechos de autor o restringido puede estar integrado en un modelo.
- Ninguna empresa ha confirmado públicamente que entrene un modelo con OpenWALDO; CIQ no respondió cuando se le preguntó.
La mayoría de los modelos de IA se construyen en secreto. Los datos utilizados para entrenarlos casi nunca se divulgan a las personas que compran y utilizan esos modelos. Un nuevo proyecto llamado OpenWALDO, reportado por primera vez por The Register AI, quiere cambiar eso.
OpenWALDO significa Open Weights, Artifacts, Licenses, Data, Origins. La idea es directa: construir un conjunto compartido e inspectable públicamente de datos de entrenamiento (el texto sin procesar del que aprenden los modelos de IA), para que cualquier empresa o investigador pueda usarlo como punto de partida verificado.
¿Por qué importan los datos de entrenamiento secreto para las empresas ordinarias?
Los datos de entrenamiento ocultos son una responsabilidad, no solo un problema filosófico. Si un modelo aprendió de libros protegidos por derechos de autor o de resultados de sistemas de IA rivales, las empresas que construyen productos sobre él podrían enfrentar riesgos legales sin saberlo.
CIQ, la empresa de infraestructura de IA detrás de OpenWALDO, lo expresó claramente: "A menudo no hay forma de saber qué datos entrenaron un modelo dado, bajo qué licencia o con qué consentimiento".
Para un hospital que compra una herramienta de IA o un despacho de abogados que usa un asistente de IA, esa falta de transparencia es un riesgo real. No se puede auditar lo que no se puede ver.
También hay un problema de desperdicio. Cada laboratorio de IA que entrena su propio modelo en secreto repite trabajo que otros ya han hecho. Un conjunto de datos compartido y verificado, argumenta el equipo de OpenWALDO, permitiría a las empresas omitir esfuerzos duplicados y superponer sus propios datos privados. Un laboratorio puede tomar el conjunto de datos como línea de base, agregar material patentado, y lanzar un producto con una línea clara y auditable de vuelta a sus fuentes.
La preocupación por la transparencia no es nueva en este tema. Nuestro artículo del 7 de agosto sobre el marco SAFE encontró 120 empresas intentando resolver un problema relacionado: fallas de seguridad de IA que nadie divulga hasta que es demasiado tarde. OpenWALDO está atacando la versión anterior de esa misma falta de transparencia.
¿Cómo se compara OpenWALDO con lo que utilizan los grandes laboratorios de IA?
La brecha es real. Ve los números:
| OpenWALDO | Modelo de frontera típico | |
|---|---|---|
| Tamaño del conjunto de datos | 167.3 mil millones de tokens | Decenas de billones de tokens |
| Tipos de fuentes | Registros gubernamentales, artículos académicos, listas de correo, literatura de dominio público | No divulgado |
| Transparencia de licencia | Completamente abierta | En gran medida desconocida |
| Gobernanza | Comunidad, código abierto | Cerrada, patentada |
Un token es aproximadamente tres cuartas partes de una palabra en inglés, por lo que 167 mil millones de tokens es una biblioteca grande pero aún una fracción de lo que modelos como GPT-4 o la serie Llama de Meta consumieron durante el entrenamiento.
Kurtzer establece un paralelismo directo con Linux, el sistema operativo de código abierto que ahora potencia la mayoría de los servidores de Internet. Los críticos alguna vez llamaron inseguro al código de código abierto. Ganó de todas formas.
"Linux no ganó siendo certificado como seguro", dijo Kurtzer. "Ganó siendo inspectable, divisible y validado por la comunidad".
Si OpenWALDO sigue ese camino es genuinamente incierto. Las buenas intenciones son comunes en la IA de código abierto; la adopción sostenida no lo es.
Si tu negocio depende de una herramienta de IA, pregunta a tu proveedor qué datos la entrenaron y si puede mostrarte la licencia. Probablemente no obtendrás una respuesta completa hoy. Hacer la pregunta de todas formas te pone por delante de la mayoría de los compradores, y esa pregunta es exactamente por qué se construyen proyectos como este.
