Генеральний директор Microsoft попереджає, що компанії платять за AI двічі: грошима й секретами
Сатья Наделла каже, що кожен запит, виправлення й робочий процес, які компанії подають у моделі AI, скромно навчають компанії, яким вони платять. Він хоче, щоб підприємства повернули контроль.
Ключові моменти
- Генеральний директор Microsoft Сатья Наделла опублікував у понеділок блог-пост, у якому попередив, що підприємства невільно передають власні бізнес-знання щоразу, коли користуються моделлю AI третьої сторони.
- Наделла стверджує, що запити, виправлення й робочі процеси, які компанії подають в системи AI, стають даними навчання, які роблять модель розумнішою, потенційно на шкоду клієнту.
- Відкриті моделі, що працюють на серверах компанії, становили 29% всього трафіку через сервіс маршрутизації AI Vercel минулого місяця, що свідчить про реальний зсув у цьому напрямку.
- У лютому 2025 року Anthropic звинуватила китайських розробників відкритого коду в тому, що вони отправили мільйони тестових запитів до моделі Claude, щоб скопіювати її поведінку в дешевші альтернативи.
Сатья Наделла керує Microsoft, компанією, яка вклала мільярди доларів в OpenAI і також має частку в Anthropic. Тому коли він говорить підприємствам бути обережними, довіряючи тим самим лабораторіям AI, у які він інвестував, люди слухають.
У блог-посту, опублікованому в понеділок, Наделла виклав занепокоєння, яке вже якийсь час тихо циркулює в кабінетах директорів. Компанії платять за інструменти AI грошима, каже він. Вони також платять чимось, на що вони рідко звертають увагу: конкретними, важко здобутими знаннями про те, як насправді функціонує їхній бізнес.
Щоразу, коли співробітник вводить запит у інструмент AI, щоразу коли він виправляє неправильну відповідь, модель дізнається щось нове. Вона дізнається вашу термінологію, ваші граничні випадки, ваші стандарти. Наделла називає ці знання «побічним продуктом» використання AI. Це також, як він стверджує, одна з найцінніших інформацій, якою володіє компанія.
«Кожне виправлення трансформується в інституційні знання», – пише він. «Того роду знання, які конкурент ніколи не зможе купити».
Його занепокоєння полягає в тому, що умови, які постачальники AI дають до своїх послуг, часто дозволяють їм навчатися на цьому побічному продукті. Компанія, яка передає свої внутрішні процеси в модель AI, фактично може навчати майбутнього конкурента.
Чи повинні компанії хвилюватися?
Так, але ризик практичний, а не теоретичний. Постачальники AI різняться в тому, що дозволяють їхні умови. Деякі контрактно обіцяють не навчатися на ваших даних; інші залишають за собою право це робити, якщо ви не відмовитеся. Більшість компаній ніколи не читали ці пункти.
Наделла також піднімає окрему точку зору щодо справедливості. Лабораторії AI стверджують, що мають законне право навчатися на своїх моделях, використовуючи загальнодоступні дані в Інтернеті. Він вважає несумісним, що ці ж лабораторії пишуть умови, які забороняють своїм клієнтам робити щось подібне, практика, яка називається «дистиляцією» – використання виходів моделі для навчання меншої, дешевшої моделі. Anthropic привернула увагу в лютому, звинувативши китайських розробників AI в тому, що вони робили саме це зі своєю моделлю Claude, і закликаючи до посилення урядових контролів.
Його запропонований розв'язок передбачуваний для генерального директора компанії, яка займається хмарними обчисленнями. Він хоче, щоб підприємства зберегли право власності на свої запити й зворотний зв'язок, побудували свої системи так, щоб вони легко могли переходити між постачальниками AI, і запускали чутливі робочі навантаження на приватній інфраструктурі. Зручно, що приватна інфраструктура часто означає Microsoft Azure, хмарну платформу Microsoft.
Але ширший ринок вже рухається в цьому напрямку незалежно від цього. Ідит Левін, генеральна директорка компанії корпоративного програмного забезпечення Solo.io, розповіла TechCrunch, що вона бачить, як клієнти переходять від великих патентованих моделей до відкритих моделей, систем AI, базовий код яких є загальнодоступним, встановлених на серверах, які компанія фізично контролює. Відкриті моделі тепер обробляють 29% трафіку через інструменти маршрутизації AI Vercel.
Що повинні взяти звичайні працівники? Запитайте у своєї IT-команди, чи ваша компанія переглянула умови даних для кожного інструменту AI, який використовує персонал. Відповідь, ймовірно, когось здивує.
Стежити за: угодами про послуги AI, які містять фрази на кшталт «ми можемо використовувати ваші дані для покращення наших послуг» без ясного способу відмови. Цей пункт, схований в дрібному шрифті, – це механізм, про який попереджає Наделла.
