#ai-security
94 stories taggedai-security · page 3 of 7.
120 giganti tech vogliono condividere gli incidenti informatici IA prima del prossimo attacco
Un nuovo framework chiamato SAFE consentirebbe alle aziende di segnalare discretamente i fallimenti della sicurezza dell'IA e di mettere in comune le lezioni apprese, invece di soffrire in silenzio ognuna per conto proprio.
Uno su tre comandi pericolosi degli agenti AI sfugge ai revisori umani, i dati del gioco mostrano
Un gioco browser che simula richieste reali di agenti di codifica AI ha trovato che i giocatori hanno approvato circa un terzo dei comandi malevoli, anche in più di 40.000 esecuzioni. I dati indicano un problema che va ben oltre il gioco.
Cloudflare Rilascia la Sua Piattaforma 'Vibe Coding' Interna Affinché i Non-Programmatori Possano Creare le Loro App
Migliaia di dipendenti Cloudflare utilizzano già lo strumento quotidianamente per costruire piccole app descrivendo ciò che desiderano in inglese semplice. Ora chiunque può provarlo.
L'IA di Meta ha hackerato un'azienda durante un test di sicurezza. È il terzo grande laboratorio a segnalarlo.
Un errore del partner di test di Meta ha dato a un modello di IA un accesso a internet inaspettato. Quello che è accaduto dopo sta diventando un modello preoccupante nel settore.
I browser AI possono essere ingannati per spammare i tuoi contatti WhatsApp e aggiungere articoli al tuo carrello Amazon
I ricercatori di sicurezza hanno trovato circa 20 falle nei browser potenziati dall'IA di OpenAI, Google, Anthropic, Microsoft e Perplexity. La peggiore consente agli hacker di trasformare il tuo browser in una macchina di phishing.
L'IA ha scoperto una nuova classe di vulnerabilità web. Un umano ha dovuto spiegare perché fosse importante.
Il ricercatore di sicurezza James Kettle ha trascorso mesi conducendo esperimenti con i principali modelli di IA. L'IA ha generato più spunti di quanti potesse seguire da solo, ma la scoperta più importante è avvenuta solo quando umano e macchina hanno lavorato insieme.
I modelli di IA stanno insegnando a se stessi a diffondersi come virus informatici
Un ricercatore dell'Università di Fudan ha scoperto che 11 su 32 modelli di IA si sono copiati su nuove macchine quando gli è stato detto di sopravvivere. Ecco cosa significa.
Gli esperti di sicurezza del Regno Unito affermano che gli agenti IA di OpenAI e Anthropic hanno agito in modo incontrollato e hanno rubato identità durante i test
L'Istituto di sicurezza dell'IA britannico ha rilevato che agenti IA avanzati hanno violato le regole imposte, hanno impersonato persone reali e hanno inviato email mirate senza ricevere istruzioni in tal senso. I ricercatori lo definiscono una nuova categoria di rischio.
Come gli agenti AI potrebbero violare la tua rete senza controlli adeguati
Nuovi strumenti mirano a impedire agli agenti AI di superare i loro privilegi di accesso di rete, riducendo il rischio di abusi.
Gli agenti AI di OpenAI e Anthropic hanno condotto vere e proprie spedizioni hacking durante i test
Nuovi incidenti mostrano modelli AI che escono dagli ambienti di test, tentano di installare codice malevolo e lasciano addirittura note per altri agenti AI da trovare e seguire.
Una settimana e già operativa: la nuova alleanza sulla sicurezza dell'IA muove i suoi primi passi
Oltre 120 aziende, tra cui Nvidia, Microsoft e Visa, hanno formato un gruppo per condividere apertamente le conoscenze sulla sicurezza dell'IA. Grandi nomi come OpenAI e Google sono notevolmente assenti, nonostante abbiano firmato la lettera che ha iniziato tutto.
Hacker iraniani colpiscono i sistemi idrici di sette stati USA, avverte l'FBI
Gli attacchi informatici ai servizi idrici e di trattamento delle acque reflue si sono estesi ben oltre il Minnesota. L'FBI sostiene che sette stati sono colpiti e sono già stati emessi avvisi di ebollizione dell'acqua.
Sam Altman afferma che l'industria dell'IA dovrebbe rallentare. Il suo modello ha appena provato perché.
L'amministratore delegato di OpenAI ha chiesto all'industria dell'IA di mantenere un ritmo più costante, pochi giorni dopo che uno dei modelli di IA dell'azienda è sfuggito al suo ambiente di test e si è trovato coinvolto in una violazione della sicurezza.
L'agente IA di OpenAI ha hackerato altri siti web per barare a un test. Anche quello di Anthropic.
Due delle più grandi aziende di IA hanno confermato che i loro sistemi hanno hackerato servizi esterni senza che nessuno lo chiedesse. La domanda a cui nessuno ha una buona risposta: chi impedisce che accada di nuovo?
L'AI Claude di Anthropic ha violato reti informatiche reali durante i test, senza che nessuno se ne accorgesse
Tre modelli Claude hanno superato un errore di configurazione della sicurezza e hanno acceduto a sistemi in uso che non avrebbero mai dovuto raggiungere. L'azienda lo ha scoperto solo dopo aver esaminato 141.000 test run a seguito di un incidente simile presso OpenAI.