Tag
#guardrails
3 stories taggedguardrails.
AI Security
La nueva herramienta de seguridad de Mistral lee tus reglas y las aplica al instante
Shieldstral es un pequeño modelo de IA gratuito que examina textos e imágenes en busca de contenido dañino utilizando políticas en inglés simple que escribes tú mismo. No requiere conocimientos especializados.
4 min read
AI Security
Los guardrails de IA creados para detener a hackers ahora bloquean a quienes intentan detenerlos
Los investigadores de seguridad dicen que los filtros de seguridad en las herramientas de IA líderes son inconsistentes, frustrantes e impulsan a los defensores legítimos hacia modelos extranjeros no regulados.
4 min read
AI Security
Los Investigadores Están Utilizando el Arma de IA Favorita de los Hackers en su Contra
Una empresa de ciberseguridad descubrió que ocultar instrucciones especiales dentro de credenciales en la nube puede hacer que las herramientas de piratería de IA se desactiven automáticamente.
3 min read