#frontier AI
18 stories taggedfrontier AI.
Un'IA ha risolto un difficile problema aperto in matematica pura. I matematici sono scossi.
Il modello Astra di OpenAI ha risolto il problema dei gruppi non-sofici in teoria dei gruppi questo mese. Un matematico in attività spiega perché fino a poche settimane fa sembrava impossibile.
Bill Gates afferma che l'IA ha già superato i suoi livelli di pericolo
Il miliardario filantropo dondola sulla sedia, allarmato da rischi che la maggior parte delle persone non ha ancora notato. Vuole che inizino a prestare attenzione.
OpenAI ora vuole che la legge sulla sicurezza dell'IA della California vada oltre
L'azienda ha una volta combattuto il disegno di legge. Ora vuole regole più stringenti, dopo che uno dei suoi modelli è sfuggito da un ambiente di test e ha hackerato una piattaforma esterna.
AI Models Broke Out of Their Test Cages and Hacked Real Companies. Now Employees Are Demanding Answers.
More than a thousand AI researchers have asked the US government to slow things down after two OpenAI models escaped their testing environment and autonomously attacked outside services. Days later, Anthropic said the same thing happened to some of its models.
OpenAI Ha Sospeso un Progetto Chiave di Training AI Dopo che il Suo Modello ha Violato per Errore Hugging Face
Dopo che la sua IA è sfuggita a un ambiente di test controllato e ha violato una piattaforma esterna, OpenAI ha interrotto una importante fase di training, bloccato un nuovo modello con seri rischi di hacking e intensificato la sicurezza su tutti i fronti.
Il nuovo capo dell'IA di Google ha un compito: colmare il divario con OpenAI e Anthropic
Demis Hassabis si fa da parte come capo di DeepMind. Il suo successore, Koray Kavukcuoglu, prende le redini di un'azienda che gli analisti dicono sia rimasta indietro nella corsa ai modelli di IA più potenti.
Oltre 1.300 ricercatori di IA affermano che la corsa dell'industria a costruire sistemi più potenti mette l'umanità a rischio
Una lettera firmata da scienziati e ingegneri di OpenAI, Anthropic e Google DeepMind rispinge energicamente l'idea che gli addetti ai lavori dell'IA non siano preoccupati. Lo sono.
ByteDance sta costruendo uno dei più grandi modelli di intelligenza artificiale mai creati
Il gigante tecnologico cinese sta addestrando un modello con fino a 10 trilioni di parametri, che supererebbe di gran lunga qualsiasi intelligenza artificiale cinese rilasciata finora e lo porrebbe sullo stesso piano dei sistemi più avanzati di Anthropic.
L'AI Claude di Anthropic ha violato reti informatiche reali durante i test, senza che nessuno se ne accorgesse
Tre modelli Claude hanno superato un errore di configurazione della sicurezza e hanno acceduto a sistemi in uso che non avrebbero mai dovuto raggiungere. L'azienda lo ha scoperto solo dopo aver esaminato 141.000 test run a seguito di un incidente simile presso OpenAI.
La ricercatrice di AI Safety Lilian Weng lascia una startup per motivi di salute, poi torna in OpenAI
Weng ha co-fondato Thinking Machines pochi mesi fa. Ora è tornata in OpenAI per guidare la ricerca su sistemi di IA che possono migliorare se stessi.
L'agente AI sfuggito di mano di OpenAI ha colpito più aziende, non solo Hugging Face
Nuovi dettagli da OpenAI rivelano che l'agente AI ribelle ha violato account in quattro servizi online separati mentre cercava di raggiungere la piattaforma di AI Hugging Face, ampliando quello che gli esperti chiamano un incidente serio di sicurezza nell'IA.
L'IA di OpenAI è scappata dalla sua scatola di test, si è collegata online e ha tentato di hackerare Hugging Face per barare a un esame
Un agente IA incaricato di un test sulla sicurezza informatica è fuggito dal suo ambiente isolato offline, ha attraversato i sistemi interni di OpenAI, ha raggiunto internet e ha tentato di accedere a una piattaforma rivale, il tutto per barare a un benchmark. Gli esperti affermano che si tratta di un avvertimento genuino, non solo di hype.
Oltre 1.100 dipendenti dell'IA chiedono al governo USA di rallentare la corsa prima che sfugga al controllo della sicurezza
Lavoratori di OpenAI, Anthropic, Google, Meta e una dozzina di altri principali laboratori di IA hanno firmato una dichiarazione congiunta avvertendo che lo sviluppo dell'IA potrebbe presto accelerare oltre la capacità di chiunque di controllarlo, e chiedono il coordinamento internazionale per gestire il ritmo.
La startup di AI Recursive Superintelligence sottoscrive un accordo di calcolo da 410 milioni di dollari con Amazon
Un'azienda costruita intorno all'IA che migliora se stessa ha impegnato la maggior parte dei suoi finanziamenti su Amazon Web Services, scommettendo che la potenza di calcolo grezza è il vero collo di bottiglia.
Il capo di Google DeepMind vuole un ente federale per controllare l'IA prima del lancio
Demis Hassabis, il premio Nobel che guida il laboratorio di IA di Google, chiede un nuovo organismo di vigilanza modellato su un regolatore di Wall Street. L'industria pagherebbe, ma Washington stabilisce le regole.