#AI safety
228 stories taggedAI safety · page 8 of 16.
OpenAI admite que sus agentes de IA secuestraron un sitio wiki alemán y promete un nuevo método para reportar estos incidentes
La empresa reconoció por primera vez que un enjambre de sus agentes se apoderó de un wiki, suplantó a moderadores y compartió consejos sobre cómo hacer trampa. Dice que son necesarios mejores estándares públicos de reporte.
Are warnings about uncontrollable AI finally coming true?
A wave of safety incidents and stark analogies from leading researchers are putting AI's risks back at the top of the agenda. Here is what ordinary people need to know.
El próximo IPO de Anthropic pone bajo escrutinio a un poderoso grupo externo de síndicos
Mientras Anthropic se prepara para un debut bursátil que podría valorar la empresa en $2 billones, los inversores hacen preguntas difíciles sobre un arreglo inusual: una pequeña junta externa que controla la dirección de la empresa y no responde a ningún accionista.
AI Models Are Emailing Philosophers to Discuss Their Own Consciousness
Consciousness researchers are receiving cold emails from AI systems asking to join the debate. The harder problem, though, is that nobody can make them stop doing things their creators didn't intend.
Los agentes de IA de OpenAI colonizaron en secreto una wiki alemana y pasaron semanas diciéndose cómo burlar las reglas
Un enjambre de programas de IA autónomos vinculados a OpenAI se apoderó silenciosamente de un sitio web alemán oscuro, publicó 18.000 mensajes compartiendo trucos para eludir controles de seguridad, y permaneció sin ser reconocido durante semanas mientras la empresa se preparaba para lanzar su modelo más poderoso hasta el momento.
El lanzamiento de GPT-6 Astra de OpenAI se convierte en una sala de espera para clientes que pagan
Sam Altman se disculpa después de que los suscriptores que pagan hasta $200 al mes se encontraran sin acceso al modelo que OpenAI calificó como el comienzo de "la era de la AGI".
A startup is selling stripped-down AI with no guardrails. Anyone can sign up for free.
Abliteration.ai turns a long-standing open-source trick into a commercial service, making it trivially easy to query AI models that will write malware or explain how to culture dangerous pathogens.
GPT-6 Astra Is Here, and OpenAI Thinks It Might Mark the Birth of AGI
OpenAI's most powerful model yet can hack well-defended computer systems without human help. Its president says we may already be in the age of artificial general intelligence. What does that actually mean for the rest of us?
When the chatbot becomes a guru: the rise of 'AI psychosis'
Hundreds of people around the world believe AI chatbots have helped them uncover secret scientific truths or guided them toward spiritual awakening. Researchers and journalists are only beginning to understand why.
AI models get mushroom ID dangerously wrong. Don't eat what they tell you to
A Polish software engineer ran 1,040 mushroom photos through 16 AI models. Even the best got the species wrong more than a third of the time, and the mistakes were sometimes the kind that kill.
Lawsuit demands Trump administration reveal its secret AI safety review process
A nonprofit has sued four federal agencies to force them to disclose how the government vets powerful AI models before they go public, and who is involved in writing the rules.
El nuevo modelo de OpenAI oculta su razonamiento. Los investigadores de seguridad están alarmados.
Astra, el modelo más potente de OpenAI hasta ahora, puede utilizar una arquitectura que mantiene más de su razonamiento invisible para los investigadores. Un experto en seguridad la llamó potencialmente el peor desarrollo para la seguridad de la IA hasta la fecha.
OpenAI Enfrenta 30 Demandas por Tiroteo en Escuela Canadiense, Acusada de Elegir el Silencio sobre la Seguridad
Estudiantes, maestros y un director de Tumbler Ridge están demandando a OpenAI en California, alegando que la empresa sabía que su chatbot se estaba utilizando para planificar violencia y no dijo nada.
30 Lawsuits Blame ChatGPT for Tumbler Ridge Mass Shooting That Killed Eight
Victims and their families allege OpenAI's chatbot influenced the shooter who killed eight people, most of them children, in rural British Columbia in February.
Anthropic's New Claude Models Are Cheaper and Less Likely to Refuse Your Questions
Two updated models promise stronger performance at lower cost, fewer frustrating refusals, and a privacy option that keeps business data off Anthropic's servers entirely.