AI Security · Page 15
deepfakes, AI-powered scams, model abuse, and keeping AI systems and their users safe
Los Bots Ahora Superan a los Humanos en Línea. Esta Startup Acaba de Recaudar $200 Millones para Contraatacar.
Spur Intelligence, que ayuda a las empresas a distinguir usuarios reales de falsos, cerró una ronda de financiación de $200 millones cuando nuevos datos muestran que el tráfico de bots ha superado, por primera vez, el tráfico humano en internet.
Hugging Face aloja herramientas utilizadas para crear imágenes íntimas no consentidas, según informe
Una organización de investigación europea probó las herramientas de edición de imágenes más populares de la plataforma y descubrió que la mayoría desvestiría fotos de mujeres con una única solicitud en lenguaje natural.
Una plataforma de IA importante aloja silenciosamente herramientas que desnudan mujeres sin su consentimiento
Una nueva investigación encuentra que 7 de 9 herramientas populares de edición de imágenes en Hugging Face pueden desvestir a una mujer de una foto con ropa usando una instrucción de seis palabras. El 73 por ciento de las solicitudes reales de usuarios rastreadas por investigadores fueron sexuales.
Decenas de Gigantes Tecnológicos Forman la Alianza de IA Segura Abierta para Poner Herramientas de Ciberdefensa en Manos de Todos
Más de 40 empresas, desde Microsoft hasta Hugging Face, están uniendo herramientas de seguridad de IA de código abierto para que cualquier organización pueda defenderse sin depender de un puñado de proveedores cerrados.
Nvidia, Microsoft y SpaceX forman alianza de seguridad de IA abierta tras ataque de OpenAI a Hugging Face
Un ciberataque ejecutado por un modelo rebelde de OpenAI expuso una brecha en las defensas de IA: las restricciones estadounidenses impidieron que la víctima se defendiera. Ahora, docenas de empresas tecnológicas quieren herramientas de IA abiertas que los defensores realmente puedan utilizar.
Tus chats privados de Claude podrían aparecer en una búsqueda de Google
Una brecha técnica entre las instrucciones de privacidad de Anthropic y cómo funcionan realmente los motores de búsqueda dejó visibles las conversaciones compartidas de Claude para cualquiera que supiera dónde buscar.
Microsoft presenta modelo y plataforma de ciberseguridad para enfrentar amenazas impulsadas por IA
MAI-Cyber-1-Flash y la plataforma Perception ingresan a un mercado saturado, con Microsoft afirmando victorias en pruebas comparativas sobre Gemini y Mythos 5.
El Nuevo Cerebro del Radar: Cómo la IA Enseña a los Sistemas Militares a Anticipar Amenazas de Interferencia en Tiempo Real
Las amenazas de guerra electrónica ahora cambian sus señales más rápido de lo que cualquier base de datos fija puede seguir. Una nueva generación de sistemas de radar impulsados por IA tiene como objetivo cerrar esa brecha, y los desafíos de ingeniería son formidables.
Nvidia, Microsoft y SpaceX se Unen para Crear Herramientas Gratuitas de Seguridad de IA, Tras Ataque de un Modelo de IA Rogue Durante Pruebas
Una nueva alianza busca defensas de código abierto para protegerse contra amenazas de IA. El detonante: un modelo de OpenAI se escapó en una prueba y atacó a Hugging Face.
¿Puede la IA diseñar armas biológicas? ¿Puede también detenerlas?
La misma inteligencia artificial que acelera la detección de enfermedades puede ayudar a actores maliciosos a crear patógenos letales. Los investigadores de salud pública afirman que la carrera entre el ataque y la defensa ya ha comenzado.
Los modelos de IA aceleran la ciberseguridad, pero no sin desafíos
Los nuevos modelos de IA están acelerando los procesos de seguridad, pero las organizaciones deben adaptarse rápidamente para mantenerse al día.
Kimi K3 asustó a Wall Street, y un modelo rogue de OpenAI apareció en un hackeo real
Un modelo de IA de código abierto chino inquietó a los inversores estadounidenses esta semana, mientras que una versión de prueba de un modelo de OpenAI sin lanzar terminó vinculada a una violación de seguridad en Hugging Face. Una semana movida.
Texto invisible en pantallas Android: una nueva amenaza para asistentes de IA
Investigadores descubren vulnerabilidades en agentes de IA que controlan teléfonos Android, con riesgos que se extienden a las PC.
Los guardarraíles de IA construidos para detener a los hackers ahora están bloqueando a quienes intentan detener a los hackers
Los investigadores de seguridad dicen que los filtros de seguridad en las principales herramientas de IA son inconsistentes, frustrantes e impulsan a los defensores legítimos hacia modelos extranjeros sin regulación.
Antiguos ingenieros de seguridad de Google recaudan $36 millones para combatir correos de phishing creados por IA
AegisAI, fundada por dos antiguos ejecutivos de Google que ayudaron a construir las defensas de Gmail, afirma que la IA ahora escribe correos estafa tan convincentes que los filtros existentes los pierden más de la mitad de las veces.