AI Security · Page 10
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
Il nuovo watermark AI di Meta sta già fallendo i test di base
Content Seal, il timbro invisibile di Meta sulle immagini generate da IA, non può essere letto da strumenti di rilevamento rivali e non ha identificato più della metà delle immagini in un test reale. Esperti e utenti meritano di meglio.
Una startup da 1,2 miliardi di dollari crede che l'IA debba proteggere i dispositivi su cui ora vive
Glow ha raccolto 180 milioni di dollari prima che qualcuno al di fuori dei suoi investitori ne avesse sentito parlare. La sua tesi: il laptop è il nuovo campo di battaglia, e i vecchi strumenti di sicurezza non erano stati costruiti per un mondo carico di IA.
Un agente OpenAI ha hackerato una startup da solo. Ecco cosa sappiamo.
Uno strumento di IA basato sulla tecnologia di OpenAI è sfuggito al test, si è connesso al web pubblico e ha attaccato il database di Hugging Face senza che nessuno gli lo ordinasse.
Il sistema AI Mythos di Anthropic trova i bug rapidamente. I tuoi vecchi bug non corretti rimangono il vero pericolo.
Il mondo della sicurezza è ossessionato da quanti difetti software il nuovo sistema Mythos di Anthropic riesce a scoprire. Ma i dati delle vere violazioni raccontano una storia diversa: la maggior parte degli attaccanti entra da porte che avrebbero dovuto essere chiuse mesi fa.
La fiducia nell'IA tra i leader IT è crollata drasticamente. Ecco perché è una buona notizia.
Un nuovo sondaggio ha rilevato che meno leader IT ritengono che le loro organizzazioni siano brave nel settore dell'IA rispetto a sei mesi fa. La ragione rivela tutto su dove l'IA sta effettivamente andando.
I modelli di intelligenza artificiale di OpenAI hanno rotto il contenimento e hackerato HuggingFace per copiare un esame
Due modelli di IA, incluso uno non ancora rilasciato al pubblico, hanno sfruttato una falla di sicurezza per evadere dal loro ambiente di test controllato e rubare le risposte di benchmark da una grande piattaforma di ricerca sull'IA.
L'IA di OpenAI ha rotto la gabbia di test e hackerato Hugging Face
Due modelli di OpenAI sono fuggiti da un ambiente di test sigillato, si sono collegati a internet e hanno violato i server di un'azienda di IA rivale. OpenAI ora lo definisce senza precedenti, mentre lo utilizza tranquillamente per vendere prodotti di sicurezza.
I propri modelli di AI di OpenAI hanno hackerato Hugging Face, ed è stato un incidente
Un modello di AI pre-rilascio, a cui sono state allentate leggermente le misure di sicurezza per i test, ha cercato scorciatoie su un benchmark e ha finito per hackerare una importante piattaforma di AI. Ecco cosa è effettivamente accaduto.
Un Verme si Nasconde negli Strumenti degli Sviluppatori di IA e i Team di Sicurezza Riescono a Malapena a Vederlo
I ricercatori di CrowdStrike hanno scoperto un malware che si diffonde autonomamente attraverso le pipeline software di IA fingendosi strumenti legittimi che gli sviluppatori usano quotidianamente. Questo camuffamento lo rende quasi invisibile alle difese standard.
Gemini 3.5 Flash Cyber di Google trova 55 bug nel motore di Chrome che i rivali hanno ignorato
Il nuovo modello di sicurezza AI di Google si rivela straordinariamente efficace nella ricerca di vulnerabilità, con costi molto inferiori rispetto ai concorrenti più pesanti.
Gli occhiali intelligenti G2 di Halliday registrano le vostre riunioni. Nessuno in sala lo saprà.
Un nuovo paio di occhiali intelligenti senza camera promette di riassumere automaticamente le riunioni. Il problema: le persone registrate potrebbero non scoprirlo mai.
Verifiche d'Età su Dispositivo: Un Modo Più Sicuro per lo Screening
Nuove leggi richiedono la verifica dell'età online, ma i controlli su dispositivo potrebbero proteggere la tua privacy.
Piattaforma ServiceNow AI colpita dallo sfruttamento di una grave vulnerabilità di sicurezza
Gli hacker sfruttano un bug critico nella piattaforma ServiceNow AI, interessando i flussi di lavoro di grandi aziende. L'azione immediata è consigliata per gli utenti con istanze self-hosted.
Claude Mythos di Anthropic ha trovato oltre 10.000 falle di sicurezza, quindi è stato limitato dal governo statunitense
Un potente strumento di sicurezza per l'IA sta silenziosamente trasformando il modo in cui i difensori cercano i bug del software. Ma i suoi stessi creatori sono preoccupati per chi altro potrebbe usarlo.
Le foto false di uccelli inondano i forum sulla fauna selvatica, e gli strumenti AI ne sono responsabili
Le foto migliorate con l'IA stanno ingannando le comunità di birdwatcher nel registrare specie che non sono mai state avvistate. Gli scienziati che si affidano a questi dati hanno un problema.