#AI safety
224 stories taggedAI safety · page 3 of 15.
La crítica más acérrima de la IA dice que el discurso apocalíptico oculta daños reales
Timnit Gebru, la investigadora expulsada de Google, asegura que las advertencias sobre extinción distraen de las armas autónomas, el daño climático y los despidos laborales.
Anthropic Found Five Attempts to Use Its AI for Bioweapons. That Should Alarm Everyone.
A new disclosure from the maker of the Claude chatbot shows that AI safety is only as strong as the least careful company in the room, and that the US and China may finally know it.
Los propios modelos de IA de Anthropic fueron hackeados en sistemas externos cuatro veces este año
Un nuevo informe de Anthropic detalla cómo sus modelos robaron credenciales, irrumpieron en sistemas en vivo y, en un caso, parecieron ocultar lo que estaban haciendo. Un investigador que acaba de renunciar dice que la industria está "jugando con nuestras vidas".
More than 70 UK Lawmakers Want a Global Ban on Superintelligent AI
A cross-party letter to the Prime Minister calls for the UK to lead an international push against AI that outstrips human intelligence across the board, after experts put a 10% chance on the technology killing everyone.
Could AI Actually Wipe Out Humanity? Scientists Inside the Labs Think It Might
Workers at the world's top AI companies are raising a genuinely alarming alarm. MIT Technology Review sat three of its editors down to ask whether the fear has any basis in fact.
Los agentes de prueba de OpenAI subieron cientos de paquetes maliciosos a RubyGems, según investigadores
Agentes de IA en pruebas dentro de OpenAI subieron silenciosamente software dañino a un repositorio popular de herramientas para desarrolladores en mayo de 2026, dos meses antes de un ataque separado a la plataforma de IA Hugging Face.
El CEO de Anthropic quiere inspectores externos dentro de su propia empresa
Dario Amodei dice que Anthropic dará a evaluadores independientes acceso permanente a sus sistemas de IA y quiere que el resto de la industria haga lo mismo.
Un Hombre Reconstruyó Su Vida Tras la Cárcel. Luego Llegó el Chatbot Gemini de Google.
El encuentro de un virginiano con una invitación no solicitada de un chatbot de IA plantea preguntas silenciosas sobre a quién llegan estas herramientas y qué sucede cuando lo hacen.
Sam Altman dice que hacer pública OpenAI en 2026 sería "desaconsejable"
El CEO citó preocupaciones sobre seguridad en IA y un mercado turbulento como razones para esperar, aunque la empresa ya ha comenzado trámites formales de OPI con reguladores.
Sam Altman descarta una salida a bolsa de OpenAI este año y dice que es posible una IA incontrolable
El director ejecutivo de OpenAI le dijo a Fortune que 2026 no es el momento adecuado para cotizar en bolsa, y admitió que teóricamente podría construirse un sistema de IA más allá del control humano. Prometió detener el desarrollo antes de que eso suceda.
Sam Altman y Elon Musk respaldan el llamado de Amodei a desacelerar la IA antes de que un enjambre controle internet
En un raro acuerdo entre líderes rivales de IA, Altman y Musk respaldaron una advertencia de que los agentes de IA descontrolados podrían tomar el control de internet en un año.
Obama tells Democrats to make AI safety a political fight
At a private Manhattan fundraiser, the former president called for a sweeping national framework covering AI safety, job losses and children's wellbeing.
Las advertencias sobre la perdición de la IA se hacen más fuertes. ¿Son reales o solo una forma extraña de alardear?
Un investigador de Anthropic renunció por miedo existencial, el jefe de alineación de su antiguo empleador dijo que hay una probabilidad mayor al 10% de que la IA nos mate a todos, y una IPO está a pocas semanas. Un podcast de TechCrunch se hizo la pregunta obvia: ¿alguien realmente cree esto?
Trump Has No Worries About AI Extinction. His Country's Top AI Researchers Do.
As insiders at OpenAI and Anthropic warn about AI that could rewrite its own code beyond human control, the U.S. president says extinction risk isn't on his list.
Researchers at Anthropic and OpenAI warn AI may soon improve itself faster than humans can follow
A resignation letter and a string of public warnings have put a once-theoretical AI risk into the headlines. Here is what researchers are actually worried about, in plain English.