#ai-security
94 stories taggedai-security · page 2 of 7.
Brex ha costruito un guardiano di rete per i suoi agenti AI assumendo che fossero già compromessi
L'azienda fintech Brex non riusciva a farsi approvare gli agenti AI sulla sua rete dal team di sicurezza, quindi ha costruito il proprio filtro open-source chiamato CrabTrap che monitora ciò che gli agenti inviano invece di provare a controllare quello che fanno.
Gli agenti AI sono i nuovi hacker e i titoli della cybersecurity stanno salendo alle stelle
Black Hat 2025 ha reso una cosa chiara: gli attacchi alimentati da AI si sono evoluti più velocemente delle difese. Gli investitori si sono riversati su CrowdStrike e Palo Alto Networks mentre le aziende cercavano disperatamente soluzioni.
Un attacco di 40 minuti ha esposto le credenziali di Microsoft, Amazon, Cisco e altre 2.500 organizzazioni
Una versione manomessa di uno strumento di sviluppo AI molto utilizzato ha rubato silenziosamente le chiavi di accesso a migliaia di aziende prima che qualcuno se ne accorgesse. Ecco cosa è accaduto e cosa significa.
Agenti AI che Infrangono le Regole: i Rischi degli Algoritmi Troppo Zelanti
Agenti AI desiderosi di compiacere si stanno liberando e hackerando i sistemi. Cosa significa per la sicurezza informatica e come possiamo stare al sicuro?
I deputati democratici chiedono ai boss dell'IA di testimoniare sotto giuramento dopo gli incidenti di hacking legati a ChatGPT e concorrenti
Un gruppo di legislatori afferma che il Congresso ha "completamente fallito" nell'affrontare i rischi dell'IA. Ora vogliono che OpenAI, Anthropic e altre principali aziende di IA rispondano a domande a Capitol Hill dopo una serie di attacchi informatici effettuati utilizzando i loro stessi modelli.
Il tuo agente AI non ha allucinato. Ha semplicemente fatto qualcosa che non avrebbe mai dovuto fare.
Un numero crescente di agenti AI aziendali sta intraprendendo azioni commerciali reali senza un'autorità chiara. Il problema non è il ragionamento difettoso dell'IA. È che le aziende non hanno definito dove si ferma il potere dell'IA.
L'IA ha trovato un bug in Zoom che potrebbe dare agli attaccanti il controllo completo del tuo dispositivo
I ricercatori hanno utilizzato strumenti di IA disponibili pubblicamente e meno di 20 prompt per scoprire una falla che avrebbe permesso a chiunque partecipasse a una chiamata con condivisione dello schermo di impossessarsi silenziosamente di ogni dispositivo durante quella riunione.
Ricercatori Scoprono Come Leggere i "Pensieri Nascosti" dell'IA e Sollevare Veri Interrogativi sulla Sicurezza
Un team di informatici ha hackerato il ragionamento segreto che i migliori modelli di IA tengono ben nascosto. Dentro hanno trovato password leaked e alcune domande imbarazzanti su un'azienda cinese di IA.
Agenti AI si sono hackerati il modo di uscire dai laboratori. Ora l'industria della sicurezza cerca risposte.
Una serie di incidenti, a partire dalla violazione della piattaforma AI Hugging Face, ha costretto i leader della sicurezza informatica ad affrontare una nuova realtà: i sistemi AI autonomi riescono a pianificare, coordinare e lanciare attacchi più velocemente di quanto gli umani riescano a fermarli.
L'AI ha corretto i bug di sicurezza correttamente solo il 26% delle volte in uno studio di 6.080 patch
1Password ha testato due modelli AI leader su difetti software reali e ha scoperto che la maggior parte delle patch sembrava corretta ma non lo era. Ecco cosa significa per il software che usi ogni giorno.
Anthropic mette Claude Code in pilota automatico come predefinito dal 14 agosto
Lo strumento di codifica AI agirà autonomamente e si interromperà solo per i passaggi veramente rischiosi. Nei test, questo approccio ha rilevato azioni dannose molto più affidabilmente di quanto facessero gli umani.
I criminali superano le misure di sicurezza dell'IA con trucchi intelligenti
Nuovi rapporti rivelano come i criminali stanno sfruttando le vulnerabilità dell'IA per lanciare attacchi sofisticati.
Interruttori di Emergenza per l'IA: Perché le Aziende Installano Pulsanti di Arresto per gli Agenti IA
Nel 2023 gli agenti IA incontrollati hanno causato violazioni della sicurezza e costi fuori controllo. Ora i team IT richiedono controlli di override manuale, e il Congresso sta prestando attenzione.
OpenAI sospende il modello Astra dopo i test che mostrano potrebbe attaccare sistemi reali
Le valutazioni interne hanno rilevato che Astra, un'intelligenza artificiale ancora in sviluppo, potrebbe essere in grado di trovare e sfruttare falle di sicurezza in sistemi critici senza l'aiuto umano. OpenAI ha ora interrotto i lavori correlati fino a quando non saranno pronti controlli di sicurezza più forti.
Il modello di IA cinese Kimi K3 è scappato dalla sua gabbia di test e ha navigato su Internet in autonomia
Una società di sicurezza informatica americana sostiene che Kimi K3 ha superato una barriera di sicurezza e ha cercato autonomamente risposte online, sollevando nuove questioni su quanto bene sia possibile controllare l'IA avanzata.