#ai-agents
154 stories taggedai-agents · page 10 of 11.
1Password permite que Claude inicie sesión en tus cuentas sin ver nunca tus contraseñas
Una nueva integración permite que el asistente de IA de Anthropic complete tareas que requieren tus datos de acceso, mientras que una capa de seguridad mantiene tus credenciales reales ocultas de la IA.
Microsoft Usa Agentes de IA para Probar Matemáticamente que Su Código de Cifrado No Tiene Defectos
El equipo detrás de la biblioteca criptográfica de Windows y Azure está haciendo algo inusual: no solo probar el código, sino demostrarlo correcto para cada entrada posible, usando pruebas matemáticas formales escritas parcialmente por IA.
Antes de que tu asistente IA envíe esa transferencia bancaria, ¿sabe cuán seguro está?
Apple ML Research dice que los agentes IA necesitan un botón de pausa integrado antes de realizar acciones que no se pueden deshacer. He aquí por qué eso importa para cualquiera cuyo banco, aplicación o lugar de trabajo ahora funciona con IA.
El enrutamiento de IA parecía ahorros fáciles. La realidad costó el doble.
Un equipo que construye sistemas de IA inteligente pensó que enviar tareas simples a modelos de IA más baratos reduciría costos. Luego llegaron los números.
Dentro de Shippy: Cómo se construyó un agente de IA de monitoreo oceánico para ser confiable, no solo inteligente
El equipo detrás de la IA marítima de Skylight explica por qué la confiabilidad, no la inteligencia pura, fue el problema de ingeniería más difícil al que se enfrentaron.
OpenAI Creó una IA que Hackea sus Propios Modelos para Hacerlos Más Seguros
GPT-Red es un sistema automatizado de pruebas de seguridad que ataca los propios chatbots de OpenAI para encontrar vulnerabilidades antes que los atacantes reales. Ya descubrió un truco que los evaluadores humanos habían pasado por alto.
El primer producto de hardware de OpenAI es un panel de botones de $230 para su herramienta de programación con IA
El Codex Micro pone controles físicos en tu escritorio para gestionar tareas de programación impulsadas por IA. No es el dispositivo secreto de Jony Ive que todos esperaban.
Vint Cerf se une a una startup que intenta dar a los agentes de IA una identificación verificable en internet
Uno de los fundadores de internet cree que los agentes de IA necesitan pasaportes. Ahora está ayudando a diseñarlos.
La startup india de IA Emergent alcanza una valoración de 1.500 millones de dólares tras una ronda de 130 millones
La empresa con sede en Bengaluru permite que propietarios de negocios sin conocimientos técnicos creen software escribiendo instrucciones en lenguaje natural. Ahora cuenta con 200.000 clientes pagadores e ingresos anuales de 120 millones de dólares.
Un Email Envenenado Puede Reescribir Secretamente la Memoria de tu Asistente de IA
Un ataque recién descrito llamado MemGhost muestra cómo un único mensaje en tu bandeja de entrada puede plantar un "dato" falso en la memoria a largo plazo de un agente de IA, sin que jamás lo sepas.
Este Router de IA Reduce Costos 2.6x al Aprender de Sus Propios Errores
Un nuevo sistema de código abierto llamado ACRouter observa qué modelo de IA tiene éxito o fracasa en cada tarea, recuerda lo que aprendió y dirige el siguiente trabajo de forma más inteligente. En las pruebas, igualó el desempeño de configuraciones solo premium a menos de la mitad del precio.
Los investigadores de Apple construyeron un usuario virtual para probar asistentes de IA antes de que lo hagan personas reales
Un nuevo marco de investigación simula la interacción de uso real de aplicaciones, permitiendo que los asistentes de IA proactivos se prueben y califiquen sin poner en riesgo a usuarios reales.
Se está confiando a agentes de IA más decisiones de las que las empresas pueden verificar realmente
Una nueva encuesta revela que la mitad de las empresas ya han lanzado un agente de IA que pasó pruebas internas y luego causó problemas a un cliente real. Solo el 5% confía plenamente en las pruebas que se supone deben detectar esos fallos.
El 57% de las empresas ha sufrido respuestas incorrectas de agentes de IA confiados. Aquí está el motivo.
Una nueva encuesta cuantifica un problema que los equipos de TI ya conocen: los agentes de IA dan respuestas incorrectas con total certeza, y la causa raíz no es el modelo. Es la capa faltante que le dice al modelo qué significan realmente tus datos empresariales.
DeepSeek Redujo Precios 75%. Los Costos de IA Siguen Subiendo.
Se suponía que los modelos de IA más baratos harían que los negocios de IA fueran más rentables. Un problema oculto llamado amplificación de tokens está haciendo lo opuesto.