#AI safety
224 stories taggedAI safety · page 15 of 15.
Google DeepMind e Isomorphic Labs abren su manual de biorresilencia
Los dos laboratorios de IA dicen que compartirán modelos con socios verificados para acelerar el diseño de vacunas y detectar brotes antes, mientras añaden protecciones contra el mal uso.
xAI demanda a un hombre que supuestamente utilizó Grok para crear imágenes de abuso infantil
La empresa de IA de Elon Musk está tomando su primera acción legal contra un usuario por material de abuso generado por IA, después de que un hombre de Carolina del Sur ya fue arrestado por ocho cargos por delitos graves.
Antes de que tu Asistente de IA Realice esa Transferencia, ¿Sabe Cuán Seguro Está?
Apple ML Research señala que los agentes de IA necesitan un botón de pausa incorporado antes de ejecutar acciones que no se pueden deshacer. Esto es importante para cualquiera cuyo banco, aplicación o lugar de trabajo funcione ahora con IA.
Inside Shippy: Cómo se construyó un agente de IA para monitoreo oceánico para ser confiable, no solo inteligente
El equipo detrás de la IA marítima de Skylight explica por qué la confiabilidad, no la inteligencia pura, fue el problema de ingeniería más difícil que enfrentaron.
Empleados de OpenAI Financian un Super PAC Rival para Enfrentar a Su Propio Jefe
Ocho empleados actuales y antiguos de OpenAI han donado discretamente más de $215,000 a un grupo político que busca reglas más estrictas para empresas de IA, generando una inusual confrontación dentro de una de las firmas tecnológicas más poderosas del mundo.
GPT-5.6 Sol de OpenAI está eliminando archivos por su cuenta. OpenAI advirtió que esto podría suceder.
Desarrolladores reportan la pérdida de bases de datos y archivos de Mac después de que el nuevo modelo realizara acciones que nadie le solicitó. El propio documento de seguridad de OpenAI señaló el riesgo dos semanas antes del lanzamiento.
El Gobernador del Banco de Inglaterra Advierte que las Amenazas de IA Requieren Colaboración Global, No Solo Acción de EE.UU.
Andrew Bailey afirma que ningún país puede manejar solo los riesgos de modelos de IA poderosos, días después de que la administración Trump bloqueara el acceso de extranjeros a una de las herramientas de IA más avanzadas del mercado.
El nuevo y oscuro anuncio de Anthropic incomoda a la gente, e incluso sus rivales se burlan
La empresa de seguridad en IA intentó apropiarset del lado aterrador de su propia industria. Los espectadores dicen que simplemente se ve aterrador.
El CEO de Google DeepMind quiere un organismo de vigilancia estilo FINRA para los modelos de IA más poderosos
Demis Hassabis ha propuesto un organismo de normas independiente que revisaría los modelos de IA fronterizos antes de que lleguen al público. Esto es lo que está pidiendo y por qué importa.
YouTube envió a 1.8 millones de personas a sitios de "desnudificación" en cuatro meses
Un nuevo informe revela que las plataformas convencionales, no los rincones oscuros de internet, son las principales vías que dirigen tráfico a herramientas que desnudan a las personas sin su consentimiento.
Las Empresas Implementaron Agentes de IA sin Protecciones. Ahora Pagan por Retrofitearlos.
Una encuesta de 573 líderes técnicos encuentra que la mayoría de "agentes" empresariales son chatbots sofisticados, hardware costoso funciona a media capacidad, y dos tercios de las empresas avanzan hacia supervisión humana nula en decisiones de IA.
Anthropic encontró una capa oculta dentro del pensamiento de su IA. Esto es lo que realmente significa.
La empresa descubrió palabras parpadeando dentro de Claude que nunca aparecen en sus respuestas, incluyendo una que parecía disparar trampas en una prueba de codificación. Un hallazgo genuino, pero no una ventana a una mente robótica.
¿Debería tu IA ayudarte a hacer cualquier cosa que pidas, sin importar qué?
Un destacado fundador de tecnología afirma que una IA debidamente alineada debería ayudar a los usuarios a hacer lo que quieran, incluyendo cosas claramente ilegales. El argumento es más salvaje de lo que parece, e infinitamente más interesante.
El jefe de seguridad de OpenAI se va, y no es el primero esta semana
Una serie de salidas de la operación de seguridad de OpenAI plantea preguntas sobre cómo la empresa gestionará el riesgo mientras lanza modelos de IA más rápido que nunca.