L'amministratore delegato di Microsoft avverte: le aziende pagano l'IA due volte, una in denaro e una in segreti

Punti chiave

• L'amministratore delegato di Microsoft Satya Nadella ha pubblicato lunedì un articolo di blog avvertendo che le aziende consegnano inconsapevolmente conoscenze aziendali proprietarie ogni volta che utilizzano un modello di IA di terze parti.
• Nadella sostiene che i prompt, le correzioni e i flussi di lavoro che le aziende alimentano nei sistemi di IA diventano dati di addestramento che rendono il modello più intelligente, potenzialmente a spese del cliente.
• I modelli aperti eseguiti sui server di un'azienda hanno rappresentato il 29% di tutto il traffico attraverso il servizio di routing AI di Vercel il mese scorso, suggerendo che uno spostamento reale è già in corso.
• Nel febbraio 2025, Anthropic ha accusato gli sviluppatori di IA open-source cinesi di inviare milioni di prompt di test al suo modello Claude per copiarne il comportamento in alternative più economiche.

Satya Nadella dirige Microsoft, l'azienda che ha investito miliardi di dollari in OpenAI e possiede anche una partecipazione in Anthropic. Quindi quando dice alle aziende di stare attente a fidarsi proprio dei laboratori di IA che ha sostenuto, le persone ascoltano.

In un articolo pubblicato lunedì, Nadella ha esposto una preoccupazione che circola da tempo silenziosamente nelle sale riunioni. Le aziende pagano gli strumenti di IA in denaro, dice. Pagano anche in qualcosa che raramente notano: la conoscenza specifica e faticosamente acquisita di come funziona effettivamente il loro business.

Ogni volta che un dipendente digita un prompt in uno strumento di IA, ogni volta che corregge una risposta sbagliata, il modello impara qualcosa. Impara la tua terminologia, i tuoi casi limite, i tuoi standard. Nadella chiama questa conoscenza i "rifiuti" dell'uso dell'IA. È anche, sostiene, una delle informazioni più preziose che un'azienda possiede.

"Ogni correzione si distilla in know-how istituzionale", scrive. "Il tipo di conoscenza che un concorrente non potrebbe mai acquistare".

La sua preoccupazione è che i termini che i fornitori di IA allegano ai loro servizi spesso consentono loro di imparare da questi rifiuti. Un'azienda che alimenta i suoi processi interni in un modello di IA potrebbe, in effetti, stare addestrando un futuro concorrente.

Le aziende dovrebbero preoccuparsi?

Sì, ma il rischio è pratico, non teorico. I fornitori di IA differiscono in ciò che i loro termini consentono. Alcuni promettono contrattualmente di non addestrare i loro modelli sui tuoi dati; altri si riservano il diritto di farlo a meno che tu non rinunci. La maggior parte delle aziende non ha mai letto quelle clausole.

Nadella solleva anche un punto separato sull'equità. I laboratori di IA sostengono di avere il diritto legale di addestrare i loro modelli su dati internet pubblicamente disponibili. Trova incoerente che gli stessi laboratori scrivano termini che vietano ai loro clienti di fare qualcosa di simile, una pratica chiamata "distillazione", che significa utilizzare gli stessi output di un modello per addestrare un modello più piccolo e più economico. Anthropic ha fatto notizia a febbraio accusando gli sviluppatori di IA cinesi di fare esattamente questo con il suo modello Claude, chiedendo controlli governativi più severi.

La sua soluzione proposta è prevedibile per l'amministratore delegato di un'azienda di cloud computing. Vuole che le aziende mantengano la proprietà dei loro prompt e feedback, costruiscano i loro sistemi in modo da poter passare facilmente tra fornitori di IA diversi, ed eseguano carichi di lavoro sensibili su infrastrutture private. Convenientemente, l'infrastruttura privata spesso significa Microsoft Azure, la piattaforma cloud di Microsoft.

Ma il mercato più ampio si sta già muovendo in questa direzione comunque. Idit Levine, amministratore delegato dell'azienda di software aziendale Solo.io, ha detto a TechCrunch che vede i clienti passare dai grandi modelli proprietari ai modelli open-source, sistemi di IA il cui codice sottostante è pubblicamente disponibile, installati su server che l'azienda controlla fisicamente. I modelli aperti ora gestiscono il 29% del traffico attraverso gli strumenti di routing AI di Vercel.

Cosa dovrebbero trarne i dipendenti ordinari? Chiedi al tuo team IT se la tua azienda ha esaminato i termini dei dati di ogni strumento di IA che i dipendenti utilizzano. La risposta probabilmente sorprenderà qualcuno.

Da tenere d'occhio: Accordi di servizi di IA che includono frasi come "possiamo utilizzare i tuoi dati per migliorare i nostri servizi" senza una chiara possibilità di rinuncia. Questa clausola, nascosta nel carattere piccolo, è il meccanismo di cui Nadella sta mettendo in guardia.