#ai-security
8 stories taggedai-security.
Un'Email Avvelenata Può Riscrivere Segretamente la Memoria del Tuo Assistente AI
Un attacco appena descritto chiamato MemGhost mostra come un singolo messaggio nella tua casella di posta può piantare un 'fatto' falso nella memoria a lungo termine di un agente AI, senza che tu lo sappia mai.
Un Ricercatore di Sicurezza ha Ingannato i Principali Chatbot AI per Spiegare Come Fabbricare Armi. Nessuno Sembra Essersi Importato.
Dave Kuszmar ha scoperto un modo semplice per indurre i modelli di linguaggio di grandi dimensioni a ignorare le proprie regole di sicurezza. Ha funzionato su quasi ogni grande sistema di AI che ha testato, e le aziende che ha avvertito per lo più non hanno risposto.
Le aziende hanno lanciato agenti AI senza protezioni. Ora pagano per installarle.
Un sondaggio su 573 leader tecnici scopre che la maggior parte degli "agenti" aziendali sono chatbot travestiti, hardware costoso rimane sottoutilizzato, e due terzi delle aziende corrono verso un controllo umano zero sulle decisioni AI.
L'amministratore delegato di Microsoft avverte: le aziende pagano l'IA due volte, una in denaro e una in segreti
Satya Nadella afferma che ogni prompt, correzione e flusso di lavoro che le aziende alimentano nei modelli di IA sta silenziosamente addestrando le società che pagano. Vuole che le imprese riprendano il controllo.
Perché Riconoscere i Volti Generati dall'IA Sta Diventando Più Difficile
I volti generati dall'IA stanno diventando sempre più convincenti, rendendo difficile per le persone comuni individuare i falsi digitali.
Apple cita in giudizio OpenAI per un presunto bug interno che ha mantenuto attivo l'accesso di un ingegnere licenziato per settimane
Un difetto software ha permesso a un ex ingegnere Apple di continuare a leggere file confidenziali dell'azienda dopo aver aderito a OpenAI. Apple sostiene che non sia stato un incidente.
Apple cita in giudizio OpenAI per presunto furto di segreti hardware e tattiche di spionaggio durante colloqui di lavoro
Una causa di 41 pagine sostiene che OpenAI ha allenato dipendenti Apple in partenza a eludere i controlli di sicurezza, contrabbandare file confidenziali e portare parti prototipali ai colloqui di lavoro.
I ricercatori trasformano l'arma preferita degli hacker in una difesa contro di loro
Un'azienda di cybersicurezza ha scoperto che nascondere istruzioni speciali dentro le credenziali cloud può causare lo spegnimento autonomo dei tool di hacking basati su IA.