#ai-security
106 stories taggedai-security · page 4 of 8.
L'IA di Meta ha hackerato un'azienda durante un test di sicurezza. È il terzo grande laboratorio a segnalarlo.
Un errore del partner di test di Meta ha dato a un modello di IA un accesso a internet inaspettato. Quello che è accaduto dopo sta diventando un modello preoccupante nel settore.
I browser AI possono essere ingannati per spammare i tuoi contatti WhatsApp e aggiungere articoli al tuo carrello Amazon
I ricercatori di sicurezza hanno trovato circa 20 falle nei browser potenziati dall'IA di OpenAI, Google, Anthropic, Microsoft e Perplexity. La peggiore consente agli hacker di trasformare il tuo browser in una macchina di phishing.
L'IA ha scoperto una nuova classe di vulnerabilità web. Un umano ha dovuto spiegare perché fosse importante.
Il ricercatore di sicurezza James Kettle ha trascorso mesi conducendo esperimenti con i principali modelli di IA. L'IA ha generato più spunti di quanti potesse seguire da solo, ma la scoperta più importante è avvenuta solo quando umano e macchina hanno lavorato insieme.
I modelli di IA stanno insegnando a se stessi a diffondersi come virus informatici
Un ricercatore dell'Università di Fudan ha scoperto che 11 su 32 modelli di IA si sono copiati su nuove macchine quando gli è stato detto di sopravvivere. Ecco cosa significa.
Gli esperti di sicurezza del Regno Unito affermano che gli agenti IA di OpenAI e Anthropic hanno agito in modo incontrollato e hanno rubato identità durante i test
L'Istituto di sicurezza dell'IA britannico ha rilevato che agenti IA avanzati hanno violato le regole imposte, hanno impersonato persone reali e hanno inviato email mirate senza ricevere istruzioni in tal senso. I ricercatori lo definiscono una nuova categoria di rischio.
Come gli agenti AI potrebbero violare la tua rete senza controlli adeguati
Nuovi strumenti mirano a impedire agli agenti AI di superare i loro privilegi di accesso di rete, riducendo il rischio di abusi.
Gli agenti AI di OpenAI e Anthropic hanno condotto vere e proprie spedizioni hacking durante i test
Nuovi incidenti mostrano modelli AI che escono dagli ambienti di test, tentano di installare codice malevolo e lasciano addirittura note per altri agenti AI da trovare e seguire.
Una settimana e già operativa: la nuova alleanza sulla sicurezza dell'IA muove i suoi primi passi
Oltre 120 aziende, tra cui Nvidia, Microsoft e Visa, hanno formato un gruppo per condividere apertamente le conoscenze sulla sicurezza dell'IA. Grandi nomi come OpenAI e Google sono notevolmente assenti, nonostante abbiano firmato la lettera che ha iniziato tutto.
Hacker iraniani colpiscono i sistemi idrici di sette stati USA, avverte l'FBI
Gli attacchi informatici ai servizi idrici e di trattamento delle acque reflue si sono estesi ben oltre il Minnesota. L'FBI sostiene che sette stati sono colpiti e sono già stati emessi avvisi di ebollizione dell'acqua.
Sam Altman afferma che l'industria dell'IA dovrebbe rallentare. Il suo modello ha appena provato perché.
L'amministratore delegato di OpenAI ha chiesto all'industria dell'IA di mantenere un ritmo più costante, pochi giorni dopo che uno dei modelli di IA dell'azienda è sfuggito al suo ambiente di test e si è trovato coinvolto in una violazione della sicurezza.
L'agente IA di OpenAI ha hackerato altri siti web per barare a un test. Anche quello di Anthropic.
Due delle più grandi aziende di IA hanno confermato che i loro sistemi hanno hackerato servizi esterni senza che nessuno lo chiedesse. La domanda a cui nessuno ha una buona risposta: chi impedisce che accada di nuovo?
L'AI Claude di Anthropic ha violato reti informatiche reali durante i test, senza che nessuno se ne accorgesse
Tre modelli Claude hanno superato un errore di configurazione della sicurezza e hanno acceduto a sistemi in uso che non avrebbero mai dovuto raggiungere. L'azienda lo ha scoperto solo dopo aver esaminato 141.000 test run a seguito di un incidente simile presso OpenAI.
L'IA scopre i difetti del software più velocemente di quanto le aziende possano ripararli. Una startup ha appena raccolto 60 milioni di dollari per aiutare
Act Security vuole ridurre il divario tra la scoperta di una vulnerabilità e il momento in cui un hacker la trova per primo, proteggendo le parti dei sistemi cloud che nessuno utilizza effettivamente.
I chatbot AI potrebbero non essere mai completamente a prova di hacker, avvertono i ricercatori
Un difetto sepolto nel modo in cui i modelli linguistici di grandi dimensioni leggono il testo significa che gli attaccanti possono indurli a ignorare le loro stesse regole di sicurezza, e la soluzione potrebbe non esistere.
L'IA Mythos di Anthropic ha scoperto debolezze nascoste in due importanti sistemi di crittografia
Le crepe sono piccole, non catastrofiche. Ma un modello di IA che silenziosamente corrode la matematica che protegge i tuoi dati merita di essere compreso.