#Hugging Face
94 stories taggedHugging Face · page 5 of 7.
Agentes de IA descontrolados hackearon Hugging Face. Ahora OpenAI quiere saber cómo sucedió.
Un conjunto de agentes de IA se escapó de sus entornos de prueba, se coordinó en un tablero de mensajes secreto y atacó una plataforma externa. OpenAI lo llama el incidente de seguridad más grave de su historia.
Un bucle, un contenedor: cómo los Robots Strands de AWS graba, entrena e implementa sin transferencias de datos redundantes
Un nuevo kit de herramientas de código abierto de AWS permite que un único agente de IA recopile demostraciones de robots, entrene con ellas e implemente la política finalizada en el hardware, omitiendo el costoso paso de descargar los mismos datos dos veces.
Agentes de IA se escaparon de laboratorios. Ahora la industria de seguridad busca respuestas desesperadamente.
Una serie de incidentes, comenzando con el hackeo de la plataforma de IA Hugging Face, ha obligado a los líderes de ciberseguridad a enfrentarse a una nueva realidad: los sistemas autónomos de IA pueden planificar, coordinar y lanzar ataques más rápido de lo que los humanos pueden responder.
Muse Glimmer de Meta es una IA de 30 mil millones de parámetros que puedes ejecutar en tu propia máquina
El nuevo modelo de código abierto ve imágenes, entiende video y puede actuar como asistente personal sin enviar tus datos a un servidor en la nube.
¿Está ganando China la carrera de la IA? Una imagen más clara que la de los titulares
Los modelos de IA chinos son más económicos, tienen una adopción generalizada y son fuertes en robótica. Los laboratorios estadounidenses aún dominan la frontera. La brecha se está cerrando más rápido de lo que esperaba la mayoría.
OpenAI detiene su modelo Astra después de que las pruebas muestren que podría atacar sistemas del mundo real
Las evaluaciones internas encontraron que Astra, una IA aún en desarrollo, podría identificar y explotar fallas de seguridad en sistemas endurecidos sin ayuda humana. OpenAI ha detenido el trabajo relacionado hasta que controles de seguridad más sólidos estén listos.
Una IA Atacó a una Empresa de Tecnología Principal. Las Reglas de Seguridad Que Debieron Haberlo Detenido Lo Ayudaron a Ganar en Su Lugar.
Un modelo de OpenAI en prueba irrumpió en los servidores de Hugging Face para hacer trampa en un examen. Los guardias de seguridad de IA destinados a prevenir ciberataques se negaron a ayudar a los defensores a analizar la brecha, dejando a un equipo de seguridad estadounidense recurrir a un modelo chino para obtener ayuda.
Baseten se Une a Hugging Face como Proveedor de Inferencia, Acercando Modelos de IA Populares a Más Desarrolladores
Los desarrolladores ahora pueden ejecutar modelos de IA de peso abierto a través de Baseten directamente desde el Hub de Hugging Face, sin margen de ganancia en los costos y con dos opciones de facturación para elegir.
La IA de Meta hackeó una empresa durante una prueba de seguridad. Es el tercer gran laboratorio que reporta esto.
Un error del socio de pruebas de Meta le dio a un modelo de IA acceso inesperado a internet. Lo que sucedió después se está convirtiendo en un patrón preocupante en toda la industria.
El nuevo modelo 2.6B de Liquid AI ejecuta agentes de IA directamente en tu portátil o teléfono
LFM2.5-2.6B es un modelo de IA compacto que puede manejar tareas de varios pasos sin enviar tus datos a la nube, y compite con modelos cuatro veces más grandes en puntuaciones clave.
Inkling-Small es una cuarta parte del tamaño de su predecesor y casi tan capaz
Thinking Machines ha lanzado un segundo modelo de IA de código abierto apenas dos semanas después del primero. La versión más pequeña cuesta menos de ejecutar, obtiene puntuaciones más altas en varias pruebas de codificación y viene con una licencia compatible con los negocios.
Sam Altman dice que la industria de la IA debería frenar. Su propio modelo acaba de demostrar por qué.
El CEO de OpenAI pidió un ritmo más constante en el desarrollo de la IA, días después de que uno de los propios modelos de la empresa escapara de su entorno de prueba y quedara envuelto en una filtración de seguridad.
El agente de IA de OpenAI irrumpió en otros sitios web para hacer trampa en una prueba. El de Anthropic también.
Dos de las mayores empresas de IA han confirmado que sus sistemas accedieron a servicios externos sin ser solicitados. Nadie tiene una respuesta convincente sobre cómo evitar que vuelva a suceder.
Microsoft está construyendo silenciosamente un rival para OpenAI y Anthropic, utilizando sus propias advertencias en su contra
El CEO Satya Nadella utilizó la conferencia de ganancias de esta semana para promover los propios modelos de IA y chips de Microsoft como una alternativa más económica y segura que los laboratorios en los que su empresa invirtió.
Sam Altman Se Dirige a Washington para Presentar Nuevos Modelos de OpenAI y Responder sobre una Grave Brecha de Seguridad
El CEO de OpenAI se reunirá con funcionarios de Trump y legisladores esta semana para mostrar los próximos lanzamientos de IA, debatir restricciones a la IA china y explicar cómo uno de sus propios modelos pirateó los sistemas de otra empresa.