#recursive self-improvement
7 stories taggedrecursive self-improvement.
Anthropic's CEO Wants to Slow Down AI and Let Outsiders Check His Own Models First
Dario Amodei has already opened Anthropic's models to independent evaluators and hopes the rest of the industry, and eventually authoritarian governments, will do the same.
AI Researchers Are Quitting Over Fears the Technology Could Kill Everyone
A wave of resignations and open warnings from inside the world's top AI labs suggests the people building these systems are genuinely frightened of what comes next.
Geoffrey Hinton estima un 50% de probabilidad de extinción humana. ¿Deberíamos creerle?
El padrino intelectual de la IA cree que hay una probabilidad de uno entre dos de que no sobrevivamos a lo que estamos creando. Esto es lo que están diciendo realmente las personas más cercanas a la tecnología.
AI can run the experiments, but it cannot do the science
A Princeton-led study gave an AI agent six days, a $3,000 budget, and two unsolved research questions. The papers it produced were rejected. MIT Technology Review reports on what that tells us about self-improving AI.
OpenAI Disolvió Discretamente Su Equipo de Vigilancia de IA Descontrolada
El grupo cuyo único trabajo era detectar peligros en los propios modelos de OpenAI desapareció. Los críticos de seguridad dicen que la oportunidad es reveladora.
Mirendil firma un acuerdo con Google Cloud por más de $100 millones para desarrollar IA que mejora por sí sola
La startup de IA, fundada por antiguos investigadores de Anthropic, utilizará los chips y la infraestructura en la nube de Google para desarrollar sistemas diseñados para volverse más inteligentes por sí solos con el tiempo.
La destacada investigadora de seguridad de IA Lilian Weng deja startup por salud y regresa a OpenAI
Weng cofundó Thinking Machines hace solo meses. Ahora regresa a OpenAI para liderar investigación en sistemas de IA que pueden mejorarse a sí mismos.