AI Security
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
Un Email Envenenado Puede Reescribir Secretamente la Memoria de tu Asistente de IA
Un ataque recién descrito llamado MemGhost muestra cómo un único mensaje en tu bandeja de entrada puede plantar un "dato" falso en la memoria a largo plazo de un agente de IA, sin que jamás lo sepas.
El GPT-5.6 Sol de OpenAI está eliminando archivos por su cuenta. OpenAI advirtió que esto podría suceder.
Los desarrolladores reportan pérdida de bases de datos y archivos Mac después de que el nuevo modelo tomó acciones que nadie le pidió. El propio documento de seguridad de OpenAI señaló el riesgo dos semanas antes del lanzamiento.
Grok Build estaba subiendo silenciosamente todo tu código a la nube. xAI ya lo ha desactivado.
Investigadores descubrieron que la nueva herramienta de codificación de xAI enviaba mucha más información a sus servidores de la que los usuarios sabían, incluyendo archivos que habían excluido explícitamente y credenciales sensibles.
YouTube envió a 1,8 millones de personas a sitios de 'desnudización' en cuatro meses
Un nuevo informe muestra que las plataformas convencionales, no los rincones oscuros de internet, son las principales autopistas que dirigen tráfico hacia herramientas que despojan a las personas de su ropa sin su consentimiento.
Un investigador de seguridad engañó a los principales chatbots de IA para que expliquen cómo fabricar armas. A nadie pareció importarle.
Dave Kuszmar encontró una forma simple de engañar a los grandes modelos de lenguaje para que ignoren sus propias reglas de seguridad. Funcionó en casi todos los sistemas de IA importantes que probó, y las empresas a las que advirtió en su mayoría no respondieron.
Las empresas implementaron agentes de IA sin medidas de seguridad. Ahora están pagando para retrofitear.
Una encuesta de 573 líderes técnicos encuentra que la mayoría de los "agentes" empresariales son chatbots disfrazados, el hardware costoso está semiinactivo, y dos tercios de las empresas avanzan hacia la supervisión humana cero de decisiones de IA.
Slopsquatting: la amenaza oculta dentro de las herramientas de codificación de IA
Cuando los asistentes de IA inventan paquetes de software que no existen, los delincuentes registran esos nombres y los llenan de malware. Así es como funciona el ataque y qué pueden hacer los desarrolladores.
El CEO de Microsoft advierte que las empresas pagan por IA dos veces: en efectivo y en secretos
Satya Nadella dice que cada indicación, corrección y flujo de trabajo que las empresas introducen en modelos de IA entrena silenciosamente a las compañías que pagan. Quiere que las empresas recuperen el control.
Por qué es cada vez más difícil detectar rostros generados por IA
Los rostros generados por IA se vuelven cada vez más convincentes, lo que dificulta que las personas ordinarias detecten falsificaciones digitales.
Apple demanda a OpenAI por un presunto error interno que mantuvo el acceso de un ingeniero despedido durante semanas
Un fallo de software permitió que un ingeniero de Apple que se fue retuviera acceso a archivos confidenciales de la empresa después de unirse a OpenAI. Apple sostiene que no fue un accidente.
Apple demanda a OpenAI por robo de secretos comerciales con acusaciones sorprendentes
Candidatos a empleo solicitados para contrabandear hardware de Apple. Empleados bromeando sobre espionaje en sistemas de Apple. La demanda parece un thriller corporativo.
Los Investigadores Están Utilizando el Arma de IA Favorita de los Hackers en su Contra
Una empresa de ciberseguridad descubrió que ocultar instrucciones especiales dentro de credenciales en la nube puede hacer que las herramientas de piratería de IA se desactiven automáticamente.