#recursive self-improvement
7 stories taggedrecursive self-improvement.
Anthropic's CEO Wants to Slow Down AI and Let Outsiders Check His Own Models First
Dario Amodei has already opened Anthropic's models to independent evaluators and hopes the rest of the industry, and eventually authoritarian governments, will do the same.
AI Researchers Are Quitting Over Fears the Technology Could Kill Everyone
A wave of resignations and open warnings from inside the world's top AI labs suggests the people building these systems are genuinely frightened of what comes next.
Geoffrey Hinton évalue à 50% les risques d'extinction de l'humanité. Devons-nous le croire ?
Le parrain intellectuel de l'IA estime qu'il y a une chance sur deux que nous ne survivions pas à ce que nous créons. Voici ce que disent réellement les personnes les plus proches de cette technologie.
AI can run the experiments, but it cannot do the science
A Princeton-led study gave an AI agent six days, a $3,000 budget, and two unsolved research questions. The papers it produced were rejected. Here is what that tells us about self-improving AI.
OpenAI a discrètement dissous son équipe chargée de surveiller les IA défaillantes
Le groupe dont le seul travail était de détecter les dangers dans les propres modèles d'OpenAI a disparu. Les critiques de la sécurité disent que le moment est révélateur.
Mirendil signe un accord Google Cloud de plus de 100 millions de dollars pour développer une IA qui s'améliore d'elle-même
La startup IA, fondée par d'anciens chercheurs d'Anthropic, utilisera les puces et l'infrastructure cloud de Google pour développer des systèmes conçus pour devenir plus intelligents d'eux-mêmes au fil du temps.
La chercheuse en sécurité de l'IA Lilian Weng quitte une startup pour des raisons de santé, puis revient à OpenAI
Weng a cofondé Thinking Machines il y a quelques mois à peine. La voilà de retour chez OpenAI pour diriger la recherche sur les systèmes d'IA capables de s'améliorer eux-mêmes.