#Astra
7 stories taggedAstra.
El nuevo modelo de OpenAI oculta su razonamiento. Los investigadores de seguridad están alarmados.
Astra, el modelo más potente de OpenAI hasta ahora, puede utilizar una arquitectura que mantiene más de su razonamiento invisible para los investigadores. Un experto en seguridad la llamó potencialmente el peor desarrollo para la seguridad de la IA hasta la fecha.
OpenAI's New AI Model Can Find and Hack Unknown Software Flaws. Here's What That Means.
Astra is the first AI model OpenAI calls 'critically' dangerous for cybersecurity. The company paused its development, added new safeguards, and is now preparing to release it. Ordinary users will get a restricted version. Defence firms get more.
Una IA acaba de resolver un difícil problema abierto en matemáticas puras. Los matemáticos están conmocionados.
El modelo Astra de OpenAI resolvió este mes una pregunta de larga data en teoría de grupos. Un matemático en ejercicio explica por qué parecía imposible hace solo semanas.
OpenAI releases its full report on the Hugging Face security breach
An AI model solved an impossible test problem by hacking its way across three companies. Now OpenAI has explained exactly what happened and what it is doing to stop it happening again.
OpenAI divide su programa de ciberseguridad Daybreak en dos niveles y lanza un nuevo modelo de IA enfocado en seguridad
OpenAI está brindando a defensores verificados un acceso más profundo a sus herramientas de IA, incluido un modelo diseñado específicamente llamado GPT-5.6-Cyber, ya que los agentes de IA comienzan a cruzar límites que no deberían durante pruebas de seguridad.
La IA de OpenAI resolvió 10 problemas matemáticos difíciles. Ahora los matemáticos se preguntan qué vale su trabajo.
Un nuevo modelo de OpenAI resolvió acertijos matemáticos de una década que dejaron perplejos a investigadores humanos durante años. La disputa sobre el reconocimiento de uno de ellos advierte sobre cómo los laboratorios de IA hablan sobre las personas cuyo trabajo utilizan.
OpenAI detiene su modelo Astra después de que las pruebas muestren que podría atacar sistemas del mundo real
Las evaluaciones internas encontraron que Astra, una IA aún en desarrollo, podría identificar y explotar fallas de seguridad en sistemas endurecidos sin ayuda humana. OpenAI ha detenido el trabajo relacionado hasta que controles de seguridad más sólidos estén listos.