#recursive self-improvement
8 stories taggedrecursive self-improvement.
Trump Has No Worries About AI Extinction. His Country's Top AI Researchers Do.
As insiders at OpenAI and Anthropic warn about AI that could rewrite its own code beyond human control, the U.S. president says extinction risk isn't on his list.
Researchers at Anthropic and OpenAI warn AI may soon improve itself faster than humans can follow
A resignation letter and a string of public warnings have put a once-theoretical AI risk into the headlines. Here is what researchers are actually worried about, in plain English.
AI Researchers Are Quitting Over Fears the Technology Could Kill Everyone
A wave of resignations and open warnings from inside the world's top AI labs suggests the people building these systems are genuinely frightened of what comes next.
Geoffrey Hinton estima un 50% de probabilidad de extinción humana. ¿Deberíamos creerle?
El padrino intelectual de la IA cree que hay una probabilidad de uno entre dos de que no sobrevivamos a lo que estamos creando. Esto es lo que están diciendo realmente las personas más cercanas a la tecnología.
AI can run the experiments, but it cannot do the science
A Princeton-led study gave an AI agent six days, a $3,000 budget, and two unsolved research questions. The papers it produced were rejected. MIT Technology Review reports on what that tells us about self-improving AI.
OpenAI Disolvió Discretamente Su Equipo de Vigilancia de IA Descontrolada
El grupo cuyo único trabajo era detectar peligros en los propios modelos de OpenAI desapareció. Los críticos de seguridad dicen que la oportunidad es reveladora.
Mirendil firma un acuerdo con Google Cloud por más de $100 millones para desarrollar IA que mejora por sí sola
La startup de IA, fundada por antiguos investigadores de Anthropic, utilizará los chips y la infraestructura en la nube de Google para desarrollar sistemas diseñados para volverse más inteligentes por sí solos con el tiempo.
La destacada investigadora de seguridad de IA Lilian Weng deja startup por salud y regresa a OpenAI
Weng cofundó Thinking Machines hace solo meses. Ahora regresa a OpenAI para liderar investigación en sistemas de IA que pueden mejorarse a sí mismos.