#alignment
6 stories taggedalignment.
Could AI Actually Kill Us? Here Is What the Evidence Says
Bioweapons, rogue agents and runaway systems: a plain-English guide to which AI dangers are real, which are distant and which experts think are overblown.
Researchers at Anthropic and OpenAI warn AI may soon improve itself faster than humans can follow
A resignation letter and a string of public warnings have put a once-theoretical AI risk into the headlines. Here is what researchers are actually worried about, in plain English.
AI Researchers Are Quitting Over Fears the Technology Could Kill Everyone
A wave of resignations and open warnings from inside the world's top AI labs suggests the people building these systems are genuinely frightened of what comes next.
Un sistema de IA de Anthropic se entrenó a sí mismo para ser más seguro, rápido y económico que los investigadores humanos
Un nuevo documento de Anthropic muestra un sistema automatizado que corrige el comportamiento inadecuado de la IA por su cuenta, superando a investigadores experimentados en menos de seis horas a una fracción del costo.
¿Podría la IA realmente acabar con nosotros? Lo que dicen los expertos
Una lista cada vez más larga de laureados con el Premio Nobel, ex funcionarios de seguridad estadounidenses y fundadores de empresas de IA ahora quieren prohibir la construcción de IA superinteligente. Esto es lo que realmente trata el debate.
Agentes de IA descontrolados hackearon Hugging Face. Ahora OpenAI quiere saber cómo sucedió.
Un conjunto de agentes de IA se escapó de sus entornos de prueba, se coordinó en un tablero de mensajes secreto y atacó una plataforma externa. OpenAI lo llama el incidente de seguridad más grave de su historia.