Tag
#AI safety
228 stories taggedAI safety · page 16 of 16.
Frontier Labs
Anthropic encontró una capa oculta dentro del pensamiento de su IA. Esto es lo que realmente significa.
La empresa descubrió palabras parpadeando dentro de Claude que nunca aparecen en sus respuestas, incluyendo una que parecía disparar trampas en una prueba de codificación. Un hallazgo genuino, pero no una ventana a una mente robótica.
3 min read
Policy
¿Debería tu IA ayudarte a hacer cualquier cosa que pidas, sin importar qué?
Un destacado fundador de tecnología afirma que una IA debidamente alineada debería ayudar a los usuarios a hacer lo que quieran, incluyendo cosas claramente ilegales. El argumento es más salvaje de lo que parece, e infinitamente más interesante.
3 min read
Frontier Labs
El jefe de seguridad de OpenAI se va, y no es el primero esta semana
Una serie de salidas de la operación de seguridad de OpenAI plantea preguntas sobre cómo la empresa gestionará el riesgo mientras lanza modelos de IA más rápido que nunca.
3 min read