Генеральный директор Microsoft предупреждает, что компании платят за AI дважды: деньгами и тайными знаниями
Сатья Наделла говорит, что каждый запрос, исправление и рабочий процесс, которые бизнес отправляет в модели AI, молча обучают компании, которым они платят. Он требует, чтобы предприятия вернули контроль.
Ключевые моменты
- Генеральный директор Microsoft Сатья Наделла опубликовал в понедельник блог-пост, предупреждающий, что предприятия неосознанно передают собственные деловые знания каждый раз, когда используют сторонние модели AI.
- Наделла утверждает, что запросы, исправления и рабочие процессы, которыми компании снабжают системы AI, становятся учебными данными, которые делают модель умнее, потенциально за счет клиента.
- Открытые модели, работающие на собственных серверах компании, составили 29% всего трафика через сервис маршрутизации AI компании Vercel в прошлом месяце, что указывает на реальный сдвиг, уже происходящий в отрасли.
- В феврале 2025 года Anthropic обвинила китайских разработчиков открытого исходного кода в отправке миллионов тестовых запросов в ее модель Claude с целью скопировать ее поведение в более дешевые альтернативы.
Сатья Наделла руководит Microsoft, компанией, которая вложила миллиарды долларов в OpenAI и также владеет долей в Anthropic. Поэтому, когда он советует предприятиям с осторожностью относиться к доверию к самым AI лабораториям, которые он поддержал, люди слушают.
В блог-посте, опубликованном в понедельник, Наделла изложил озабоченность, которая уже какое-то время циркулирует в кабинетах руководителей. Компании платят за инструменты AI деньгами, говорит он. Они также платят чем-то, что они редко замечают: конкретными, трудно добытыми знаниями о том, как на самом деле работает их бизнес.
Каждый раз, когда сотрудник вводит запрос в инструмент AI, каждый раз, когда они исправляют неправильный ответ, модель узнает что-то новое. Она учится вашей терминологии, ваших граничных случаев, ваших стандартов. Наделла называет эти знания «выхлопом» использования AI. Это также, по его словам, одна из самых ценных информаций, которой владеет компания.
«Каждое исправление кристаллизуется в институциональное знание», — пишет он. «Того рода знание, которое конкурент никогда не сможет купить».
Его беспокойство в том, что условия, которые провайдеры AI прилагают к своим услугам, часто позволяют им учиться на этом выхлопе. Компания, питающая свои внутренние процессы в модель AI, может фактически обучать будущего конкурента.
Должны ли бизнесы беспокоиться об этом?
Да, но риск практический, а не теоретический. Провайдеры AI различаются в том, что позволяют их условия. Некоторые контрактно обещают не обучаться на ваших данных; другие оставляют за собой право делать это, если вы не откажетесь. Большинство компаний никогда не читали эти пункты.
Наделла также поднимает отдельный вопрос о справедливости. Лаборатории AI утверждают, что они имеют законное право обучать свои модели на общедоступных данных из интернета. Он считает несогласованным, что те же лаборатории затем пишут условия, запрещающие своим клиентам делать что-то подобное, практику, называемую «дистилляцией», которая означает использование собственных результатов модели для обучения меньшей, более дешевой модели. Anthropic вызвала резонанс в феврале, обвинив китайских разработчиков AI в том же самом с его моделью Claude и требуя более жесткого государственного контроля.
Его предложенное решение предсказуемо для генерального директора компании облачных вычислений. Он хочет, чтобы предприятия сохраняли собственность на свои запросы и обратную связь, строили свои системы так, чтобы они могли легко переходить между провайдерами AI, и запускали чувствительные рабочие нагрузки на частной инфраструктуре. Удобно, что частная инфраструктура часто означает Microsoft Azure, облачную платформу Microsoft.
Но более широкий рынок уже движется в этом направлении независимо от этого. Идит Левин, генеральный директор компании корпоративного ПО Solo.io, рассказала TechCrunch, что она видит, как клиенты переходят с больших проприетарных моделей на модели с открытым исходным кодом, системы AI, основной код которых общедоступен и установлен на серверах, которыми физически управляет компания. Открытые модели теперь обрабатывают 29% трафика через инструменты маршрутизации AI компании Vercel.
Что обычные сотрудники должны взять из этого? Спросите вашу IT-команду, проверила ли ваша компания условия данных каждого инструмента AI, который используют сотрудники. Ответ, вероятно, удивит кого-нибудь.
Следите за: Соглашениями об услугах AI, которые включают фразы типа «мы можем использовать ваши данные для улучшения наших услуг» без четкого отказа. Этот пункт, спрятанный в мелком шрифте, — это механизм, о котором предупреждает Наделла.
