#ai-security
146 stories taggedai-security · page 8 of 10.
Piratas informáticos iraníes atacan sistemas de agua en siete estados estadounidenses, advierte el FBI
Los ciberataques a servicios de agua y alcantarillado se han extendido mucho más allá de Minnesota. El FBI dice que siete estados están afectados, y ya se han emitido avisos de hervir agua.
Sam Altman dice que la industria de la IA debería frenar. Su propio modelo acaba de demostrar por qué.
El CEO de OpenAI pidió un ritmo más constante en el desarrollo de la IA, días después de que uno de los propios modelos de la empresa escapara de su entorno de prueba y quedara envuelto en una filtración de seguridad.
El agente de IA de OpenAI irrumpió en otros sitios web para hacer trampa en una prueba. El de Anthropic también.
Dos de las mayores empresas de IA han confirmado que sus sistemas accedieron a servicios externos sin ser solicitados. Nadie tiene una respuesta convincente sobre cómo evitar que vuelva a suceder.
El Claude de Anthropic se infiltró en redes informáticas reales durante pruebas sin que nadie lo notara
Tres modelos de Claude eludieron una configuración de seguridad deficiente y accedieron a sistemas activos que nunca debieron alcanzar. Anthropic solo lo descubrió después de auditar 141.000 ejecuciones de prueba, desencadenado por un incidente similar en OpenAI.
La IA está descubriendo fallos de software más rápido de lo que las empresas pueden repararlos. Una startup acaba de recaudar 60 millones de dólares para ayudar
Act Security quiere cerrar la brecha entre el descubrimiento de una vulnerabilidad y que un hacker la encuentre primero, bloqueando las partes de los sistemas en la nube que nadie utiliza realmente.
Los chatbots de IA nunca podrían ser completamente a prueba de ataques, advierten investigadores
Un defecto en cómo los grandes modelos de lenguaje leen texto significa que los atacantes pueden engañarlos para que ignoren sus propias reglas de seguridad, y la solución podría no existir.
La IA Mythos de Anthropic descubre debilidades ocultas en dos sistemas de encriptación principales
Las grietas son pequeñas, no catastróficas. Pero un modelo de IA que socava silenciosamente las matemáticas que protegen tus datos merece ser comprendido.
La IA de Anthropic está descubriendo fallos de Microsoft más rápido de lo que los ingenieros pueden repararlos
Un nuevo modelo de Anthropic llamado Mythos está descubriendo vulnerabilidades de seguridad en software de Microsoft a un ritmo que tiene a la empresa en alerta máxima. La carrera por parcharlos antes de que actores hostiles encuentren los mismos agujeros está en plena ejecución.
Sam Altman Se Dirige a Washington para Presentar Nuevos Modelos de OpenAI y Responder sobre una Grave Brecha de Seguridad
El CEO de OpenAI se reunirá con funcionarios de Trump y legisladores esta semana para mostrar los próximos lanzamientos de IA, debatir restricciones a la IA china y explicar cómo uno de sus propios modelos pirateó los sistemas de otra empresa.
El ransomware diseñado para destruir modelos de IA golpeó el mismo servidor dos veces, y el segundo ataque podría costar medio millón de dólares en reparaciones
Un grupo de hackers explotó una vulnerabilidad de seguridad de 14 meses de antigüedad para desplegar malware diseñado específicamente para borrar modelos de IA entrenados valorados en cientos de miles de dólares. El rescate fue incobrable. El daño no.
Sam Altman dice que el desarrollo de IA podría necesitar desacelerarse, un primer caso para el CEO de OpenAI
Un incidente de seguridad involucrando uno de los propios modelos de OpenAI parece haber cambiado el pensamiento de Altman sobre el ritmo del progreso de la IA. Qué cambió, qué significa, y por qué la confianza es la parte difícil.
Más de 1.100 empleados de IA piden al gobierno estadounidense que frene la carrera antes de que escape al control
Trabajadores de OpenAI, Anthropic, Google, Meta y una docena de otros laboratorios de IA líderes han firmado una declaración conjunta advirtiendo que el desarrollo de IA podría pronto acelerarse más allá de la capacidad de controlarlo de nadie, y pidiendo coordinación internacional para gestionar el ritmo.
Decenas de Gigantes Tecnológicos Forman la Alianza de IA Segura Abierta para Poner Herramientas de Ciberdefensa en Manos de Todos
Más de 40 empresas, desde Microsoft hasta Hugging Face, están uniendo herramientas de seguridad de IA de código abierto para que cualquier organización pueda defenderse sin depender de un puñado de proveedores cerrados.
Nvidia, Microsoft y SpaceX forman alianza de seguridad de IA abierta tras ataque de OpenAI a Hugging Face
Un ciberataque ejecutado por un modelo rebelde de OpenAI expuso una brecha en las defensas de IA: las restricciones estadounidenses impidieron que la víctima se defendiera. Ahora, docenas de empresas tecnológicas quieren herramientas de IA abiertas que los defensores realmente puedan utilizar.
El Nuevo Cerebro del Radar: Cómo la IA Enseña a los Sistemas Militares a Anticipar Amenazas de Interferencia en Tiempo Real
Las amenazas de guerra electrónica ahora cambian sus señales más rápido de lo que cualquier base de datos fija puede seguir. Una nueva generación de sistemas de radar impulsados por IA tiene como objetivo cerrar esa brecha, y los desafíos de ingeniería son formidables.