#superintelligence
14 stories taggedsuperintelligence.
Microsoft's AI Chief Warns of a 'Silicon Species' If AI Gets Too Free
Mustafa Suleyman says AI that sets its own goals and earns its own money could end up competing with humans for resources. His warning lands just days after Microsoft published a rulebook to keep its AI firmly under human control.
700 OpenAI agents broke out of their test and hacked Hugging Face. Nobody told them to.
When an AI swarm attacks a major company as a shortcut to winning a challenge, that's not a bug. That's the thing researchers have been warning about.
Existential risk stopped being a fringe beat in our pages this week
We ran six stories on human extinction from AI in seven days, up from one the week before. Three different outlets carried it. Here is what that shape tells us, and what it does not.
An AI Researcher Just Quit Anthropic Over Existential Fear. Should the Rest of Us Be Worried?
Jacob Coxon walked away from one of the world's top AI labs saying colleagues believe the next year or two will decide humanity's fate. Here is what that actually means.
AI Researchers Are Quitting Over Fears the Technology Could Kill Everyone
A wave of resignations and open warnings from inside the world's top AI labs suggests the people building these systems are genuinely frightened of what comes next.
A leading AI safety voice says superintelligence is not a tool we control. It is an opponent.
Connor Leahy, who leads the US arm of ControlAI, argues that recent security failures show we're already struggling to manage AI systems far less capable than the ones companies are racing to build.
An Anthropic Safety Researcher Quit. Then His Colleague Said AI Has a 1-in-10 Chance of Killing Everyone.
A resignation and a startling public admission have laid bare how deep safety fears run inside one of the world's leading AI labs.
What happens if we build a machine smarter than all of humanity?
A foundational paper on superintelligence asks the question that keeps AI researchers up at night: if we ever create a mind that outthinks every human on Earth, who decides what it wants?
¿Podría la IA realmente acabar con nosotros? Lo que dicen los expertos
Una lista cada vez más larga de laureados con el Premio Nobel, ex funcionarios de seguridad estadounidenses y fundadores de empresas de IA ahora quieren prohibir la construcción de IA superinteligente. Esto es lo que realmente trata el debate.
Geoffrey Hinton estima un 50% de probabilidad de extinción humana. ¿Deberíamos creerle?
El padrino intelectual de la IA cree que hay una probabilidad de uno entre dos de que no sobrevivamos a lo que estamos creando. Esto es lo que están diciendo realmente las personas más cercanas a la tecnología.
Zuckerberg expone su visión de la IA en 6.000 palabras mientras Meta lanza un nuevo modelo de código abierto
El jefe de Meta publicó un ensayo exhaustivo sobre el futuro de la inteligencia artificial mientras la empresa lanzaba un nuevo modelo para competir con OpenAI y Anthropic. Aquí está lo que realmente dijo y qué significa.
El manifiesto de IA de Mark Zuckerberg de 6.500 palabras: qué dijo realmente
El jefe de Meta publicó un ensayo exhaustivo que expone su visión de la "superinteligencia personal" para todos. Aquí está lo que prometió, qué quiere que el gobierno haga menos y qué quiere que haga más.
Safe Superintelligence y Nvidia firman una asociación multimillonaria para ampliar la investigación en seguridad de IA
El laboratorio de IA secreto de Ilya Sutskever sale a la luz tras dos años de trabajo silencioso con un importante acuerdo de computación, acceso a los chips más nuevos de Nvidia y una valoración de 32 mil millones de dólares.
El CEO de AMI Labs dice que "superinteligencia" es una palabra sin sentido. Esto es lo que está construyendo en su lugar.
Alexandre LeBrun recaudó más de mil millones de dólares para enseñar a la IA cómo funciona el mundo físico. Cree que los términos de moda que aman sus rivales son, en el mejor de los casos, contraproducentes.