¿Qué es la IA de código abierto y en qué se diferencia?
La IA de código abierto pone los planos del modelo en tus manos. Aquí está lo que realmente significa y por qué importa.
La IA de código abierto significa que el modelo subyacente, y a menudo su fórmula de entrenamiento, se publican para que cualquiera pueda inspeccionar, copiar y modificar. Lo opuesto es un modelo cerrado o propietario, donde solo puedes acceder a la IA a través de una API o aplicación y el funcionamiento interno permanece en secreto. Es como un libro de recetas versus un restaurante que solo te venderá el plato terminado.
¿Qué exactamente se "abre" en un modelo de IA de código abierto?
Como mínimo, los pesos del modelo se publican públicamente. Los pesos son los millones o miles de millones de valores numéricos que el modelo aprendió durante el entrenamiento, los números que realmente hacen que funcione. Algunos proyectos también publican el código de entrenamiento, el conjunto de datos y la documentación.
No todos los proyectos publican todas esas cosas a la vez. Los modelos Llama de Meta, por ejemplo, publican los pesos y permiten un uso amplio, pero los datos de entrenamiento completos no se publican. La página de investigación propia de Meta para Llama describe esto en detalle. Los puristas del código abierto verdadero argumentarían que liberar solo pesos se aproxima más a "pesos abiertos" que a código abierto completo, pero en la conversación cotidiana los términos se usan indistintamente.
¿En qué se diferencia la IA de código abierto de la IA cerrada como GPT-4?
Con un modelo cerrado, envías tu texto al servidor de una empresa, la máquina piensa, y envía una respuesta. Nunca ves el modelo en sí. Los modelos abiertos te permiten descargar la cosa completa y ejecutarla en tu propia computadora o servidor en la nube.
Esa única diferencia tiene grandes efectos secundarios. Puedes ajustar finamente (especializar) el modelo con tus propios datos, auditarlo en busca de sesgos o errores, y mantener tus datos completamente en las instalaciones, lo que significa que nunca salen de tu edificio. Un hospital, por ejemplo, podría ejecutar un modelo abierto localmente para que los registros de pacientes nunca toquen un servidor externo.
¿Cuáles son los beneficios reales?
Cuatro cosas destacan. Primero, costo: una vez que tienes el modelo, la inferencia (ejecutarlo) puede ser mucho más barata que pagar tarifas de API por consulta. Segundo, personalización: puedes remodelar el comportamiento del modelo de maneras que una API comercial no permite. Tercero, transparencia: los investigadores pueden estudiar cómo el modelo llega a sus respuestas, lo cual es enormemente importante para la investigación de seguridad. La investigación de alineación de Anthropic destaca por qué poder inspeccionar el funcionamiento interno del modelo es valioso. Cuarto, sin dependencia del proveedor: no depende de que una empresa permanezca solvente o mantenga precios estables.
¿Cuáles son las desventajas y riesgos?
Los modelos abiertos pueden ser mal utilizados más fácilmente, porque cualquiera puede eliminar las barreras de seguridad que una empresa normalmente impondría. También requieren habilidad técnica para ejecutarse bien, y eres responsable de mantenerlos actualizados y seguros. Las organizaciones más pequeñas pueden encontrar pesada la carga de infraestructura.
El Marco de Gestión de Riesgos de IA de NIST señala que la transparencia corta en ambos sentidos: ayuda a los defensores a entender un sistema, pero también ayuda a los atacantes a entender cómo abusarlo.
IA de código abierto versus cerrada: una comparación rápida
| Característica | Código abierto / pesos abiertos | Cerrado / propietario |
|---|---|---|
| Ver el funcionamiento interno del modelo | Sí | No |
| Ejecutarlo en tu propio hardware | Sí | No |
| Personalizar y ajustar finamente | Sí, libremente | Limitado o no disponible |
| Los datos permanecen en tus servidores | Sí | Normalmente no |
| Esfuerzo técnico inicial | Alto | Bajo |
| Modelo de costo típico | Costos de infraestructura | Tarifas por consulta |
Un ejemplo de IA de código abierto en acción
Una startup de tecnología legal quiere crear un asistente de revisión de documentos. Usar una API cerrada significa que cada contrato que procesa pasa a través de los servidores de otra persona, lo que plantea problemas de confidencialidad del cliente. En su lugar, el equipo descarga un modelo de pesos abiertos, lo ajusta finamente con lenguaje legal y lo ejecuta dentro de su propio entorno seguro. Los clientes nunca necesitan saber, y ningún dato sale del control de la empresa.
¿Qué permite realmente la licencia?
Aquí es donde las cosas se vuelven matizadas. "Código abierto" no siempre significa "haz lo que quieras". Algunos modelos tienen licencias que restringen el uso comercial o requieren que abras el código de cualquier modificación que hagas. La definición de la Iniciativa de Código Abierto requiere, entre otras cosas, que la licencia no restrinja a nadie de vender o regalar el software. Muchas licencias populares de modelos de IA no cumplen ese estándar, por lo que la frase "pesos abiertos" se está volviendo más precisa.
Siempre lee la licencia antes de construir un producto sobre un modelo.
Advertencia de privacidad, en palabras simples
Ejecutar un modelo abierto localmente es en realidad la opción más privada disponible, porque tus indicaciones nunca salen de tu máquina. La trampa es que descargar archivos de modelo grandes (a menudo de 10 a 70 gigabytes) y ejecutarlos requiere un hardware decente. Las laptops de consumidor pueden manejar modelos más pequeños; los grandes necesitan una GPU potente o un servidor en la nube alquilado.
Preguntas comunes
¿Es gratis usar IA de código abierto?
Descargar el modelo es generalmente gratis, pero aún pagas por la electricidad y el hardware (o computación en la nube) necesarios para ejecutarlo. Las licencias comerciales en algunos modelos también pueden requerir una tarifa para el uso empresarial.
¿Puedo confiar en que una IA de código abierto sea segura?
Los modelos abiertos pueden ser auditados por cualquiera, lo que ayuda a detectar problemas, pero también pueden tener sus barreras de seguridad removidas por cualquiera. La seguridad depende en gran medida de cuán cuidadosamente despliegues y configures el modelo para tu caso de uso específico.
