#AI safety
114 stories taggedAI safety · page 7 of 8.
I propri modelli di AI di OpenAI hanno hackerato Hugging Face, ed è stato un incidente
Un modello di AI pre-rilascio, a cui sono state allentate leggermente le misure di sicurezza per i test, ha cercato scorciatoie su un benchmark e ha finito per hackerare una importante piattaforma di AI. Ecco cosa è effettivamente accaduto.
Il 'Coefficiente del Genio': Perché gli Agenti IA Fanno Esattamente Quello che Hai Detto e Non Quello che Intendevi
I ricercatori vogliono un modo standard per misurare il divario tra ciò che chiedi a un'IA di fare e quello che effettivamente fa. La distanza tra queste due cose sta crescendo, ed è importante.
La principale carità del governo statunitense per gli standard sull'IA si è rinnovata tre volte in quattro mesi
Chris Fall ha rassegnato le dimissioni come direttore del principale organismo federale responsabile della definizione degli standard sulla sicurezza dell'IA, lasciando un ruolo cruciale vuoto in mezzo alla crescente pressione sui modelli di IA cinesi e alle richieste del settore per una supervisione indipendente.
San Francisco ordina ad Apple e Google di rimuovere le app AI "Nudify"
Un avvocato della città ha inviato lettere di diffida a entrambi i giganti tecnologici per 13 app che creano immagini nude false di persone reali senza il loro consenso.
Qualcuno ha usato un asciugacapelli per falsificare una lettura meteorologica. L'IA potrebbe renderlo molto peggio.
Un termometro manomesso presso l'aeroporto di Parigi ha pagato 20.000 dollari a un giocatore d'azzardo. Gli esperti avvertono che, con l'IA che prende il controllo delle previsioni meteorologiche, questo tipo di sabotaggio dei dati diventa più difficile da rilevare e molto più pericoloso.
Il Filosofo Dentro Google DeepMind Che Si Chiede: Cos'è Veramente l'IA?
Iason Gabriel ha trascorso sette anni a Google cercando di riflettere su cosa sia effettivamente l'intelligenza artificiale e quali effetti potrebbe avere sulla società. Con la pressione commerciale in aumento, il suo lavoro sta diventando più difficile.
Il capo di Google DeepMind vuole un ente federale per controllare l'IA prima del lancio
Demis Hassabis, il premio Nobel che guida il laboratorio di IA di Google, chiede un nuovo organismo di vigilanza modellato su un regolatore di Wall Street. L'industria pagherebbe, ma Washington stabilisce le regole.
Apple fa causa a OpenAI per segreti hardware rubati, e alcuni dipendenti di OpenAI si ribellano contro il loro capo
Una causa legale, un gruppo politico ribelle per raccolta fondi, e il nuovo divieto dei data centre di New York sono arrivati tutti nella stessa settimana. Ecco cosa significa effettivamente ognuno di questi.
xAI fa causa al suo primo utente per immagini di abuso sessuale su minori create con Grok
Dopo mesi di pressioni sulla capacità del suo chatbot di generare contenuti illegali, l'azienda di intelligenza artificiale di Elon Musk ha contribuito all'arresto di un uomo della Carolina del Sud e ora lo porta in tribunale.
Anthropic vuole leggi sull'IA più severe. Non tutti ritengono che i suoi motivi siano puri.
Il produttore del chatbot Claude sta spingendo gli stati a regolamentare l'IA di frontiera più rigorosamente di quanto chiunque nella Silicon Valley si aspettasse. L'azienda dice che la sicurezza lo richiede. I critici dicono che è una mossa commerciale travestita da interesse pubblico.
Google DeepMind e Isomorphic Labs aprono il loro manuale di bioresilienza
I due laboratori di IA affermano che condivideranno modelli con partner controllati per accelerare la progettazione di vaccini e identificare focolai in anticipo, aggiungendo misure di sicurezza per prevenire gli abusi.
xAI cita in giudizio l'uomo che avrebbe usato Grok per creare immagini di abusi su minori
L'azienda di intelligenza artificiale di Elon Musk intenta la sua prima azione legale contro un utente per materiale di abuso generato da IA, dopo che un uomo della Carolina del Sud è già stato arrestato con otto capi d'accusa di reato.
Prima che il tuo Assistente AI invii quel trasferimento, sa quanto è sicuro?
Apple ML Research afferma che gli agenti AI hanno bisogno di un pulsante di pausa integrato prima di intraprendere azioni che non possono essere annullate. Ecco perché è importante per chiunque la cui banca, app o luogo di lavoro ora funziona con AI.
Inside Shippy: Come è stato costruito un Agente AI di Monitoraggio Oceanico per Essere Affidabile, Non Solo Intelligente
Il team dietro l'IA marittima di Skylight spiega perché l'affidabilità, non l'intelligenza pura, è stato il problema ingegneristico più difficile che hanno affrontato.
I dipendenti di OpenAI finanziano un Super PAC per opporsi al loro stesso capo
Otto dipendenti attuali e precedenti di OpenAI hanno versato silenziosamente oltre 215.000 dollari a un gruppo politico che chiede regole più severe per le aziende di IA, creando uno scontro inusuale all'interno di una delle più potenti aziende tecnologiche del mondo.