El CEO de Microsoft advierte que las empresas pagan por IA dos veces: en efectivo y en secretos

Puntos clave

• El CEO de Microsoft Satya Nadella publicó una entrada de blog el lunes advirtiendo que las empresas entregan inadvertidamente conocimiento comercial patentado cada vez que utilizan un modelo de IA de terceros.
• Nadella argumenta que los indicadores, correcciones y flujos de trabajo que las empresas alimentan a los sistemas de IA se convierten en datos de entrenamiento que mejoran el modelo, potencialmente a costa del cliente.
• Los modelos abiertos ejecutándose en servidores propios de una empresa representaron el 29% de todo el tráfico a través del servicio de enrutamiento de IA de Vercel el mes pasado, sugiriendo un cambio real ya en marcha.
• En febrero de 2025, Anthropic acusó a desarrolladores de IA de código abierto chinos de enviar millones de indicadores de prueba a su modelo Claude para copiar su comportamiento en alternativas más económicas.

Satya Nadella dirige Microsoft, la empresa que ha invertido miles de millones de dólares en OpenAI y también posee una participación en Anthropic. Así que cuando advierte a las empresas que tengan cuidado al confiar en los mismos laboratorios de IA que ha respaldado, la gente presta atención.

En una entrada de blog publicada el lunes, Nadella expuso una preocupación que ha circulado discretamente en las salas de juntas durante un tiempo. Las empresas pagan por herramientas de IA en dinero, dice. También pagan en algo que rara vez notan: el conocimiento específico y arduamente adquirido de cómo funciona realmente su negocio.

Cada vez que un miembro del personal escribe un indicador en una herramienta de IA, cada vez que corrige una respuesta que regresa incorrecta, el modelo aprende algo. Aprende su terminología, sus casos especiales, sus estándares. Nadella llama a este conocimiento el "residuo" del uso de IA. También es, según argumenta, una de las informaciones más valiosas que posee una empresa.

"Cada corrección se destila en conocimiento institucional", escribe. "El tipo de conocimiento que un competidor nunca podría comprar".

Su preocupación es que los términos que los proveedores de IA adjuntan a sus servicios a menudo les permiten aprender de ese residuo. Una empresa que alimenta sus procesos internos en un modelo de IA podría, en efecto, estar entrenando a un futuro competidor.

¿Deberían preocuparse las empresas por esto?

Sí, pero el riesgo es práctico, no teórico. Los proveedores de IA difieren en lo que sus términos permiten. Algunos prometen contractualmente no entrenar con tus datos; otros se reservan el derecho de hacerlo a menos que optes por no participar. La mayoría de las empresas nunca han leído esas cláusulas.

Nadella también plantea un punto separado sobre la equidad. Los laboratorios de IA argumentan que tienen derecho legal a entrenar sus modelos con datos de internet disponibles públicamente. Encuentra inconsistente que los mismos laboratorios luego escriban términos que prohíban a sus clientes hacer algo similar, una práctica llamada "destilación", que significa usar los propios resultados de un modelo para entrenar un modelo más pequeño y económico. Anthropic hizo titulares en febrero acusando a desarrolladores de IA chinos de hacer exactamente eso con su modelo Claude, pidiendo controles gubernamentales más estrictos.

Su solución propuesta es predecible para el CEO de una empresa de computación en la nube. Quiere que las empresas mantengan la propiedad de sus indicadores y comentarios, construyan sus sistemas para que puedan cambiar fácilmente entre proveedores de IA, y ejecuten cargas de trabajo sensibles en infraestructura privada. Convenientemente, la infraestructura privada a menudo significa Microsoft Azure, la plataforma en la nube de Microsoft.

Pero el mercado más amplio ya se está moviendo en esta dirección de todas formas. Idit Levine, CEO de la empresa de software empresarial Solo.io, le dijo a TechCrunch que ve a clientes cambiar de modelos propietarios grandes a modelos de código abierto, sistemas de IA cuyo código subyacente está disponible públicamente, instalados en servidores que la empresa controla físicamente. Los modelos abiertos ahora manejan el 29% del tráfico a través de las herramientas de enrutamiento de IA de Vercel.

¿Qué deben entender los empleados ordinarios de esto? Pregunta a tu equipo de TI si tu empresa ha revisado los términos de datos de todas las herramientas de IA que usan los empleados. La respuesta probablemente sorprenderá a alguien.

Ten en cuenta: Acuerdos de servicio de IA que incluyan frases como "podemos usar tus datos para mejorar nuestros servicios" sin una opción clara de exclusión. Esa cláusula, escondida en la letra pequeña, es el mecanismo sobre el cual Nadella está advirtiendo.