#recursive self-improvement
6 stories taggedrecursive self-improvement.
AI Researchers Are Quitting Over Fears the Technology Could Kill Everyone
A wave of resignations and open warnings from inside the world's top AI labs suggests the people building these systems are genuinely frightened of what comes next.
Geoffrey Hinton coloca as probabilidades de extinção humana em 50%. Devemos acreditar nele?
O próprio padrinho intelectual da IA acha que há uma chance de cara ou coroa de não sobrevivermos ao que estamos a construir. Eis o que as pessoas mais inteligentes da sala estão realmente a dizer.
AI can run the experiments, but it cannot do the science
A Princeton-led study gave an AI agent six days, a $3,000 budget, and two unsolved research questions. The papers it produced were rejected. Here is what that tells us about self-improving AI.
OpenAI Dissolveu Silenciosamente a Sua Equipa que Vigiava a IA Descontrolada
O grupo cuja função era detetar perigos nos próprios modelos da OpenAI desapareceu. Críticos de segurança dizem que o momento é revelador.
Mirendil assina acordo com Google Cloud de mais de 100 milhões de dólares para construir IA que melhora a si mesma
A startup de IA, fundada por antigos investigadores da Anthropic, utilizará os chips e a infraestrutura cloud do Google para desenvolver sistemas concebidos para se tornarem mais inteligentes por conta própria ao longo do tempo.
Investigadora de Segurança em IA Lilian Weng Deixa Startup por Saúde e Regressa à OpenAI
Weng co-fundou a Thinking Machines há apenas alguns meses. Agora está de volta na OpenAI para liderar a investigação de sistemas de IA que se podem melhorar a si próprios.