#guardrails
5 stories taggedguardrails.
Congress wants AI guardrails. The White House isn't listening.
Lawmakers from both parties are pushing for rules on artificial intelligence, but the Trump administration shows little sign of moving. What's blocking them, and what does it mean for everyone else?
A startup is selling stripped-down AI with no guardrails. Anyone can sign up for free.
Abliteration.ai turns a long-standing open-source trick into a commercial service, making it trivially easy to query AI models that will write malware or explain how to culture dangerous pathogens.
La nueva herramienta de seguridad de Mistral lee tus reglas y las aplica al instante
Shieldstral es un pequeño modelo de IA gratuito que analiza texto e imágenes en busca de contenido nocivo utilizando políticas en inglés simple que escribes tú mismo. No se requieren conocimientos especializados.
Los guardarraíles de IA construidos para detener a los hackers ahora están bloqueando a quienes intentan detener a los hackers
Los investigadores de seguridad dicen que los filtros de seguridad en las principales herramientas de IA son inconsistentes, frustrantes e impulsan a los defensores legítimos hacia modelos extranjeros sin regulación.
Los investigadores están convirtiendo el arma favorita de los piratas informáticos en su contra
Una empresa de ciberseguridad descubrió que ocultar instrucciones especiales dentro de credenciales en la nube puede hacer que las herramientas de piratería con IA se desactiven automáticamente.