El CEO de Microsoft advierte que las empresas pagan por IA dos veces: en dinero y en secretos

Puntos clave

• El CEO de Microsoft, Satya Nadella, publicó una entrada de blog el lunes advirtiendo que las empresas entregan sin saberlo conocimiento comercial propietario cada vez que utilizan un modelo de IA de terceros.
• Nadella sostiene que las indicaciones y correcciones que las empresas introducen en sistemas de IA se convierten en datos de entrenamiento que hacen el modelo más inteligente, potencialmente en detrimento del cliente.
• Los modelos abiertos ejecutados en servidores propios de una empresa representaron el 29% de todo el tráfico a través del servicio de enrutamiento de IA de Vercel el mes pasado, lo que sugiere un cambio real ya en curso.
• En febrero de 2025, Anthropic acusó a desarrolladores chinos de IA de código abierto de enviar millones de indicaciones a su modelo Claude para copiar su comportamiento en alternativas más baratas.

Satya Nadella dirige Microsoft, la empresa que ha invertido miles de millones en OpenAI y tiene una participación en Anthropic. Así que cuando advierte a las empresas que tengan cuidado al confiar en los mismos laboratorios de IA que ha respaldado, la gente presta atención.

En una entrada de blog publicada el lunes, Nadella nombra una preocupación que ha circulado silenciosamente en las juntas directivas. Las empresas pagan por herramientas de IA en dinero, dice. También pagan en algo que rara vez notan: el conocimiento específico y laboriosamente adquirido de cómo funciona realmente su negocio.

Cada vez que un empleado escribe una indicación en una herramienta de IA, cada vez que corrigen una respuesta incorrecta, el modelo aprende algo. Aprende tu terminología, tus casos extremos, tus estándares. Nadella llama a este conocimiento el "residuo" del uso de IA. Es también, sostiene, parte de la información más valiosa que posee una empresa.

"Cada corrección se destila en conocimiento institucional", escribe. "El tipo de conocimiento que un competidor nunca podría comprar".

Su preocupación es que los términos que los proveedores de IA adjuntan a sus servicios a menudo les permiten aprender de ese residuo. Una empresa que introduce sus procesos internos en un modelo de IA podría, en efecto, estar entrenando a un futuro competidor.

¿Deberían las empresas preocuparse por esto?

Sí, pero el riesgo es práctico, no teórico. Los proveedores de IA difieren en lo que sus términos permiten. Algunos prometen contractualmente no entrenar con tus datos; otros se reservan el derecho de hacerlo a menos que optes por no participar. La mayoría de las empresas nunca han leído esas cláusulas.

Nadella también plantea un punto de equidad. Los laboratorios de IA argumentan que tienen un derecho legal para entrenar con datos disponibles públicamente en Internet. Encuentra inconsistente que los mismos laboratorios luego prohíban a los clientes la "destilación", que significa usar los propios resultados de un modelo para entrenar un modelo más pequeño y más barato. Anthropic hizo titulares en febrero al acusar a desarrolladores de IA chinos de hacer exactamente eso con su modelo Claude y pidiendo controles de exportación gubernamentales más estrictos.

Su solución propuesta es predecible para un CEO de computación en la nube. Quiere que las empresas mantengan la propiedad de sus indicaciones y comentarios, construyan sistemas que puedan cambiar fácilmente entre proveedores de IA, y ejecuten cargas de trabajo sensibles en infraestructura privada. Esa infraestructura, convenientemente, a menudo significa Microsoft Azure.

Pero el mercado ya se está moviendo en esta dirección. Idit Levine, fundadora y CEO de la empresa de software empresarial Solo.io, dijo a TechCrunch que ve clientes cambiando de modelos propietarios a modelos de código abierto, sistemas de IA cuyo código subyacente está disponible públicamente, instalados en servidores que la empresa controla físicamente. Los modelos abiertos ahora manejan el 29% del tráfico a través de herramientas de enrutamiento de IA de Vercel. Informamos en julio que la adopción de IA de código abierto ya ha alcanzado la mitad de Fortune 500, en una historia que encontró que las empresas liderando ese cambio no son solo los grandes nombres de tecnología que esperarías.

El juicio simple de este tema: la advertencia de Nadella es real, pero también está perfectamente cronometrada para el discurso de ventas en la nube de Microsoft. El riesgo de fuga de datos es genuino, el remedio que propone resulta beneficiar a Azure, y la mayoría de las empresas no actuarán hasta que el producto de un competidor aparezca en manos de un rival. Entonces la letra pequeña deja de ser abstracta.

Atento a: Acuerdos de servicios de IA que incluyan frases como "podemos usar tus datos para mejorar nuestros servicios" sin una opción clara de exclusión. Esa cláusula, enterrada en la letra pequeña, es el mecanismo sobre el que Nadella está advirtiendo.