#open-source-ai
76 stories taggedopen-source-ai · page 4 of 6.
El Marco de Seguridad de IA de Trump Excluye por Completo los Modelos de Código Abierto
La Casa Blanca tiene un nuevo plan para probar la IA antes de que llegue al público. Solo cubre una porción estrecha del mercado y términos clave quedan indefinidos.
El marco Orchard de Microsoft permite que pequeños agentes de IA superen ampliamente su peso
Un nuevo kit de herramientas de código abierto de Microsoft Research entrena agentes de IA que pueden corregir código, navegar por la web y gestionar tareas, utilizando modelos mucho más pequeños que los gigantes actuales de frontera.
Con apenas una semana de vida y ya en funcionamiento: la nueva alianza de seguridad en IA hace sus primeros movimientos
Más de 120 empresas, incluyendo Nvidia, Microsoft y Visa, han formado un grupo para compartir conocimientos sobre seguridad en IA abiertamente. OpenAI y Google brillan por su ausencia, a pesar de haber firmado la carta que lo inició todo.
La nueva herramienta de seguridad de Mistral lee tus reglas y las aplica al instante
Shieldstral es un pequeño modelo de IA gratuito que analiza texto e imágenes en busca de contenido nocivo utilizando políticas en inglés simple que escribes tú mismo. No se requieren conocimientos especializados.
La apuesta de Mistral por IA abierta comienza a dar frutos
Los controles de exportación estadounidenses, un incidente de IA descontrolada y un aumento de las preocupaciones por la soberanía europea han abierto una puerta que sus rivales no pueden cerrar fácilmente.
Inkling-Small es una cuarta parte del tamaño de su predecesor y casi tan capaz
Thinking Machines ha lanzado un segundo modelo de IA de código abierto apenas dos semanas después del primero. La versión más pequeña cuesta menos de ejecutar, obtiene puntuaciones más altas en varias pruebas de codificación y viene con una licencia compatible con los negocios.
Los investigadores de IA chinos se están mudando a X, y está cambiando cómo Occidente lee el auge de la IA china
Decenas de científicos de laboratorios como Moonshot AI y DeepSeek ahora publican regularmente en X, cerrando la brecha dejada por colegas occidentales cada vez más reservados de OpenAI y Anthropic.
MCP recibe su mayor actualización hasta ahora, y el objetivo es permitir que la IA trabaje a escala empresarial
Un cambio clave en el estándar abierto que ayuda a las herramientas de IA a comunicarse con software externo elimina un cuello de botella que complicaba las implementaciones a gran escala. Aquí está lo que cambió y por qué importa.
Una plataforma de IA importante aloja silenciosamente herramientas que desnudan mujeres sin su consentimiento
Una nueva investigación encuentra que 7 de 9 herramientas populares de edición de imágenes en Hugging Face pueden desvestir a una mujer de una foto con ropa usando una instrucción de seis palabras. El 73 por ciento de las solicitudes reales de usuarios rastreadas por investigadores fueron sexuales.
Decenas de Gigantes Tecnológicos Forman la Alianza de IA Segura Abierta para Poner Herramientas de Ciberdefensa en Manos de Todos
Más de 40 empresas, desde Microsoft hasta Hugging Face, están uniendo herramientas de seguridad de IA de código abierto para que cualquier organización pueda defenderse sin depender de un puñado de proveedores cerrados.
¿Pueden aprender los agentes de IA a pensar juntos? Un equipo de Cisco cree que tiene el tejido conectivo
Ahora mismo, los agentes de IA son como especialistas que no comparten notas. Una unidad de investigación de Cisco dice que ha construido la infraestructura que les permite establecer objetivos compartidos, agrupar memoria y razonar como equipo, sin que un humano tenga que orquestar cada transición.
EE.UU. y China acuerdan: la IA de código abierto necesita seguridad sólida, no un libre albedrío
Veintiuna economías de la Cuenca del Pacífico firmaron una declaración conjunta respaldando modelos de IA abiertos construidos con controles de seguridad de nivel gubernamental. Es la primera vez que ministros de EE.UU. y China se ponen de acuerdo en IA de código abierto.
Kimi K3 asustó a Wall Street, y un modelo rogue de OpenAI apareció en un hackeo real
Un modelo de IA de código abierto chino inquietó a los inversores estadounidenses esta semana, mientras que una versión de prueba de un modelo de OpenAI sin lanzar terminó vinculada a una violación de seguridad en Hugging Face. Una semana movida.
Los guardarraíles de IA construidos para detener a los hackers ahora están bloqueando a quienes intentan detener a los hackers
Los investigadores de seguridad dicen que los filtros de seguridad en las principales herramientas de IA son inconsistentes, frustrantes e impulsan a los defensores legítimos hacia modelos extranjeros sin regulación.
¿Qué es la IA de código abierto y en qué se diferencia?
La IA de código abierto pone los planos del modelo en tus manos. Aquí está lo que realmente significa y por qué importa.