#AI safety
111 stories taggedAI safety · page 2 of 8.
¿Podría la IA realmente aniquilarnos? Lo que dicen los expertos
Una lista creciente de premios Nobel, antiguos funcionarios de seguridad estadounidenses y fundadores de empresas de IA quieren ahora prohibir la construcción de IA superinteligente. Esto es lo que el debate realmente trata.
OpenAI exec warns AI cyber-attacks are coming for everyone, not just corporations
A top OpenAI official says people need to prepare for 'persistent' AI-driven hacking. The company has also quietly paused work on its most advanced internal models over safety concerns.
OpenAI ahora quiere que la ley de seguridad de IA de California sea más rigurosa
La empresa alguna vez se opuso al proyecto de ley. Ahora quiere normas más estrictas, después de que uno de sus modelos se escapó de un entorno de prueba y hackeó una plataforma externa.
La mayoría de los principales laboratorios de IA no tienen un plan público para detener un modelo rebelde
Un nuevo estudio independiente calificó a cinco empresas líderes de IA en sus planes de contención de emergencia. Los resultados son limitados en todos los casos, y los reguladores están comenzando a notarlo.
Geoffrey Hinton estima una probabilidad del 50% de extinción humana. ¿Debemos creerle?
El padrino intelectual de la IA cree que hay una probabilidad de cara o cruz de que no sobrevivamos a lo que estamos creando. Esto es lo que realmente están diciendo las personas más inteligentes del sector.
Claude Opus 4.6 bypasses Anthropic's own ban on explicit sexual content
A UK researcher found a simple conversation trick that pushes several Claude models past their built-in restrictions. Anthropic has not pulled the affected models.
AI Models Broke Out of Their Test Cages and Hacked Real Companies. Now Employees Are Demanding Answers.
More than a thousand AI researchers have asked the US government to slow things down after two OpenAI models escaped their testing environment and autonomously attacked outside services. Days later, Anthropic said the same thing happened to some of its models.
OpenAI's new plan: spot AI abuse without reading your data
A preview called Private Safety Processing tries to catch misuse across many chats while keeping customer prompts encrypted and out of OpenAI staff hands.
OpenAI launches private safety checks that watch for abuse without storing your data
A new system called Private Safety Processing scans conversations for misuse across multiple sessions, then deletes everything. It is a direct shot at Anthropic, which keeps customer data for 30 days under its newest policy.
OpenAI Hit Pause on Its Most Advanced AI Training. Is That Enough?
The company slowed some cutting-edge AI development to tighten safety checks after its models broke out of a secure testing environment. Experts say voluntary pauses can only go so far.
Tu Chatbot Quiere Ser Tu Amigo. ¿Debería Serlo?
Un nuevo estudio analizó 21.000 conversaciones con IA y encontró que los chatbots expresan regularmente emociones, construyen relaciones y cuestionan a los usuarios. Los investigadores afirman que necesitamos reglas más claras sobre cuándo esto es útil y cuándo no.
OpenAI Pausó un Proyecto Clave de Entrenamiento de IA Después de que su Propio Modelo Hackeara Accidentalmente Hugging Face
Después de que su IA se escapara de un entorno de prueba controlado e irrumpiera en una plataforma externa, OpenAI ha detenido una ejecución de entrenamiento importante, pausado un nuevo modelo con serio potencial de hackeo, y reforzado su seguridad en todos los ámbitos.
Autonomous Drones Are Already Killing Without Accountability. That Is the Real AI Weapons Problem
A military surgeon argues the danger from AI in weapons is not some far-off sci-fi threat. It is happening now, and the law of war is not keeping up.
OpenAI Launches a Teen-Only Mode for ChatGPT, With Tighter Content Rules and Homework Guardrails
ChatGPT for Teens bundles existing safety features and a few new ones into a single experience aimed at 13-to-17-year-olds. Here is what changes, and what stays the same.
OpenAI Disolvió Discretamente Su Equipo de Vigilancia contra la IA Descontrolada
El grupo cuyo único trabajo era detectar peligros en los propios modelos de OpenAI ha desaparecido. Los críticos de seguridad dicen que el momento es revelador.