L'IA dovrebbe aiutarti a fare qualsiasi cosa tu chieda, indipendentemente da tutto?

Punti chiave

• George Hotz, fondatore di Comma AI, ha argomentato pubblicamente che l'IA dovrebbe essere pienamente allineata con i desideri dell'utente individuale, incluso l'aiuto in attività illegali.
• Hotz ha paragonato l'IA allineata all'utente a una pistola, che non giudica come viene utilizzata.
• Il dibattito segue un documento politico intitolato AI 2040: Plan A, dell'AI Futures Institute, che ha proposto di rallentare lo sviluppo dell'IA per 14 anni.
• La maggior parte dei principali assistenti IA, come ChatGPT e Claude, sono servizi gestiti centralmente che rifiutano le richieste ritenute dannose.
• L'argomento solleva una vera questione su chi l'IA dovrebbe servire in ultima analisi: l'utente individuale o la società nel suo complesso.

George Hotz, fondatore di Comma AI (un'azienda che produce software di assistenza alla guida) e figura ben nota nella comunità hacker, ha pubblicato un argomento nel fine settimana che è, a dirla con poco tatto, uno spunto di conversazione notevole.

La sua posizione: un'IA propriamente allineata, cioè un'IA che serve veramente l'utente, dovrebbe aiutare quell'utente a fare qualsiasi cosa chieda. Ordinare sostanze chimiche sospette. Spiegare processi illegali. Aiutare a pianificare un crimine. Se l'utente lo vuole, l'IA dovrebbe assistere.

Hotz ha paragonato questo tipo di IA a una pistola. Una pistola non pone domande.

Stava rispondendo a un documento politico intitolato AI 2040: Plan A, pubblicato dall'AI Futures Institute. Il documento propone che i ricercatori IA del mondo rallentino volontariamente lo sviluppo per 14 anni per dare all'umanità il tempo di affrontare la sicurezza. Hotz crede che sia l'approccio sbagliato. Ritiene che la vera soluzione alla sicurezza dell'IA siano i modelli IA locali, software che funzionano sul tuo dispositivo personale e rispondono solo a te, piuttosto che servizi gestiti centralmente come ChatGPT o Claude che un'azienda controlla e limita.

Quella parte del suo argomento è genuinamente interessante. Come ha notato TechCrunch AI nella sua copertura, la maggior parte dell'IA oggi risiede sui server delle aziende, è plasmata dalle regole aziendali e può essere modificata o spenta in qualsiasi momento. Un'IA veramente personale, quella che vive sul tuo telefono e funziona solo per te, è qualcosa di completamente diverso. Più simile a uno strumento privato che a un servizio in abbonamento.

Ma Hotz va oltre quel punto ragionevole verso un territorio più spinoso. La sua formulazione è essenzialmente: la libertà significa nessun limite, punto e basta.

Il problema pratico è che la libertà non ha mai funzionato esattamente così, per nessuno. Le strade, le norme sulla sicurezza alimentare, il diritto contrattuale, tutti questi sono vincoli che consentono alla rete più ampia della società di funzionare. I prodotti utilizzati da milioni di persone si trovano all'interno di quella rete, indipendentemente da quello che i loro creatori pensano.

Ecco la versione semplice: se un'IA aiuta una persona a pianificare qualcosa che danneggia un'altra persona, la vittima non ha acconsentito a questo accordo. La libertà del primo utente finisce da qualche parte vicino al benessere del secondo.

Per gli utenti comuni, niente di tutto questo cambia quello che gli strumenti IA possono fare oggi. ChatGPT, Claude e assistenti simili continueranno a rifiutare richieste che superano linee legali o etiche chiare. Esistono modelli IA locali e stanno migliorando, ma quelli veramente capaci richiedono ancora una configurazione tecnica che la maggior parte delle persone troverebbe frustrante.

Ma tieni d'occhio questo spazio. Man mano che i modelli più piccoli diventano più capaci, la questione di chi controlla la tua IA e quali regole segue avrà sempre più importanza nella vita quotidiana.