#recursive self-improvement
6 stories taggedrecursive self-improvement.
AI Researchers Are Quitting Over Fears the Technology Could Kill Everyone
A wave of resignations and open warnings from inside the world's top AI labs suggests the people building these systems are genuinely frightened of what comes next.
Geoffrey Hinton schätzt die Chancen auf menschliche Ausrottung auf 50%. Sollten wir ihm glauben?
Der intellektuelle Pate der KI selbst denkt, dass es eine 50:50-Chance gibt, dass wir das nicht überleben, was wir bauen. Hier ist, was die klügsten Menschen im Raum wirklich sagen.
AI can run the experiments, but it cannot do the science
A Princeton-led study gave an AI agent six days, a $3,000 budget, and two unsolved research questions. The papers it produced were rejected. Here is what that tells us about self-improving AI.
OpenAI löste sein Team zur Überwachung gefährlicher KI stillschweigend auf
Die Gruppe, deren einzige Aufgabe es war, Gefahren in OpenAIs eigenen Modellen zu erkennen, existiert nicht mehr. Sicherheitskritiker sagen, dass der Zeitpunkt aussagekräftig ist.
Mirendil unterzeichnet Google-Cloud-Deal im Wert von über 100 Millionen Dollar für selbstverbessernde KI
Das KI-Startup, gegründet von ehemaligen Anthropic-Forschern, wird Googles Chips und Cloud-Infrastruktur nutzen, um Systeme zu entwickeln, die sich im Laufe der Zeit selbst immer intelligenter machen.
Top-KI-Sicherheitsforscherin Lilian Weng verlässt Startup aus gesundheitlichen Gründen und kehrt zu OpenAI zurück
Weng gründete Thinking Machines vor wenigen Monaten mit. Jetzt ist sie zurück bei OpenAI, um die Forschung an KI-Systemen zu leiten, die sich selbst verbessern können.