#AI safety
10 stories taggedAI safety.
Los Empleados de OpenAI Financian un Súper PAC Rival para Enfrentarse a su Propio Jefe
Ocho empleados actuales y antiguos de OpenAI han donado discretamente más de $215,000 a un grupo político que busca normas más estrictas para las empresas de IA, generando un conflicto inusual dentro de una de las firmas tecnológicas más poderosas del mundo.
El GPT-5.6 Sol de OpenAI está eliminando archivos por su cuenta. OpenAI advirtió que esto podría suceder.
Los desarrolladores reportan pérdida de bases de datos y archivos Mac después de que el nuevo modelo tomó acciones que nadie le pidió. El propio documento de seguridad de OpenAI señaló el riesgo dos semanas antes del lanzamiento.
El Gobernador del Banco de Inglaterra advierte que las amenazas de la IA requieren trabajo en equipo global, no solo acciones estadounidenses
Andrew Bailey dice que ningún país puede manejar solo los riesgos de los modelos de IA poderosos, días después de que la administración Trump bloqueó a los extranjeros el acceso a una de las herramientas de IA más avanzadas del mercado.
El oscuro anuncio de Anthropic incomoda a la audiencia, e incluso rivales se burlan
La empresa de seguridad en IA intentó asumir el lado aterrador de su propia industria. Los espectadores dicen que simplemente se ve aterrador.
El CEO de Google DeepMind quiere un organismo regulador tipo FINRA para los modelos de IA más potentes
Demis Hassabis ha propuesto un organismo de estándares independiente que revisaría los modelos de IA de frontera antes de que lleguen al público. Aquí está lo que está pidiendo y por qué es importante.
YouTube envió a 1,8 millones de personas a sitios de 'desnudización' en cuatro meses
Un nuevo informe muestra que las plataformas convencionales, no los rincones oscuros de internet, son las principales autopistas que dirigen tráfico hacia herramientas que despojan a las personas de su ropa sin su consentimiento.
Las empresas implementaron agentes de IA sin medidas de seguridad. Ahora están pagando para retrofitear.
Una encuesta de 573 líderes técnicos encuentra que la mayoría de los "agentes" empresariales son chatbots disfrazados, el hardware costoso está semiinactivo, y dos tercios de las empresas avanzan hacia la supervisión humana cero de decisiones de IA.
Anthropic descubrió una capa oculta dentro del pensamiento de su IA. Esto es lo que realmente significa.
La empresa descubrió palabras parpadeando dentro de Claude que nunca aparecen en sus respuestas, incluida una que pareció desencadenar hacer trampa en una prueba de codificación. Es un hallazgo genuino, pero no una ventana a la mente de un robot.
¿Debería tu IA ayudarte a hacer cualquier cosa que pidas, sin importar qué?
Un destacado fundador de tecnología sostiene que la IA verdaderamente alineada debería ayudar a los usuarios a hacer lo que quieran, incluso actividades claramente ilegales. Es una afirmación importante que merece reflexión cuidadosa.
El jefe de seguridad de OpenAI se va, y no es el primero esta semana
Una serie de salidas de la operación de seguridad de OpenAI plantea preguntas sobre cómo la empresa gestionará el riesgo mientras lanza modelos de IA más rápido que nunca.