#ai-security
8 stories taggedai-security.
Un Email Envenenado Puede Reescribir Secretamente la Memoria de tu Asistente de IA
Un ataque recién descrito llamado MemGhost muestra cómo un único mensaje en tu bandeja de entrada puede plantar un "dato" falso en la memoria a largo plazo de un agente de IA, sin que jamás lo sepas.
Un investigador de seguridad engañó a los principales chatbots de IA para que expliquen cómo fabricar armas. A nadie pareció importarle.
Dave Kuszmar encontró una forma simple de engañar a los grandes modelos de lenguaje para que ignoren sus propias reglas de seguridad. Funcionó en casi todos los sistemas de IA importantes que probó, y las empresas a las que advirtió en su mayoría no respondieron.
Las empresas implementaron agentes de IA sin medidas de seguridad. Ahora están pagando para retrofitear.
Una encuesta de 573 líderes técnicos encuentra que la mayoría de los "agentes" empresariales son chatbots disfrazados, el hardware costoso está semiinactivo, y dos tercios de las empresas avanzan hacia la supervisión humana cero de decisiones de IA.
El CEO de Microsoft advierte que las empresas pagan por IA dos veces: en efectivo y en secretos
Satya Nadella dice que cada indicación, corrección y flujo de trabajo que las empresas introducen en modelos de IA entrena silenciosamente a las compañías que pagan. Quiere que las empresas recuperen el control.
Por qué es cada vez más difícil detectar rostros generados por IA
Los rostros generados por IA se vuelven cada vez más convincentes, lo que dificulta que las personas ordinarias detecten falsificaciones digitales.
Apple demanda a OpenAI por un presunto error interno que mantuvo el acceso de un ingeniero despedido durante semanas
Un fallo de software permitió que un ingeniero de Apple que se fue retuviera acceso a archivos confidenciales de la empresa después de unirse a OpenAI. Apple sostiene que no fue un accidente.
Apple demanda a OpenAI por supuesto robo de secretos de hardware y tácticas de espionaje en entrevistas de trabajo
Una demanda de 41 páginas acusa a OpenAI de adiestrar a empleados que se marchaban de Apple para evadir controles de seguridad, contrabandear archivos confidenciales y llevar piezas prototipo a entrevistas de trabajo.
Los Investigadores Están Utilizando el Arma de IA Favorita de los Hackers en su Contra
Una empresa de ciberseguridad descubrió que ocultar instrucciones especiales dentro de credenciales en la nube puede hacer que las herramientas de piratería de IA se desactiven automáticamente.