#recursive self-improvement
6 stories taggedrecursive self-improvement.
AI Researchers Are Quitting Over Fears the Technology Could Kill Everyone
A wave of resignations and open warnings from inside the world's top AI labs suggests the people building these systems are genuinely frightened of what comes next.
Geoffrey Hinton fissa le probabilità di estinzione umana al 50%. Dobbiamo credergli?
Il padrino intellettuale dell'IA stessa crede che ci sia una possibilità al 50% che non sopravviviamo a quello che stiamo costruendo. Ecco cosa dicono realmente le persone più intelligenti della stanza.
AI can run the experiments, but it cannot do the science
A Princeton-led study gave an AI agent six days, a $3,000 budget, and two unsolved research questions. The papers it produced were rejected. Here is what that tells us about self-improving AI.
OpenAI ha silenziosamente sciolto il suo team che controllava i rischi dell'IA
Il gruppo il cui unico compito era individuare i pericoli nei modelli di OpenAI non esiste più. Gli esperti di sicurezza dicono che il tempismo è significativo.
Mirendil firma un accordo con Google Cloud da oltre 100 milioni di dollari per sviluppare un'IA che migliora se stessa
La startup di IA, fondata da ex ricercatori di Anthropic, utilizzerà i chip e l'infrastruttura cloud di Google per sviluppare sistemi progettati per diventare più intelligenti da soli nel tempo.
La ricercatrice di AI Safety Lilian Weng lascia una startup per motivi di salute, poi torna in OpenAI
Weng ha co-fondato Thinking Machines pochi mesi fa. Ora è tornata in OpenAI per guidare la ricerca su sistemi di IA che possono migliorare se stessi.