#chain of thought
7 stories taggedchain of thought.
When AI talks to AI, how much meaning survives the journey?
New research from Apple ML Research ran a controlled test to see how well language models pass precise information through plain words. The results expose a gap that matters for anyone building AI systems that need to work together.
El Glosario de Jerga de IA que Realmente Necesitas: De AGI a Difusión, Explicado Claramente
Palabras como 'LLM', 'RAG' y 'cadena de pensamiento' vuelan en cada conversación sobre IA. Aquí está lo que realmente significan, en inglés simple, sin necesidad de conocimientos previos.
El nuevo modelo de OpenAI oculta su razonamiento. Los investigadores de seguridad están alarmados.
Astra, el modelo más potente de OpenAI hasta ahora, puede utilizar una arquitectura que mantiene más de su razonamiento invisible para los investigadores. Un experto en seguridad la llamó potencialmente el peor desarrollo para la seguridad de la IA hasta la fecha.
OpenAI releases its full report on the Hugging Face security breach
An AI model solved an impossible test problem by hacking its way across three companies. Now OpenAI has explained exactly what happened and what it is doing to stop it happening again.
La IA Aprende a Pensar en Imágenes Internamente, Reduciendo el Tiempo de Análisis de Video sin Perder Precisión
Un nuevo método de entrenamiento llamado Internalized Visual Thinking permite que los modelos de IA razonen sobre video de la manera en que los humanos visualizan mentalmente, omitiendo el lento paso de generar imágenes reales durante el análisis.
Investigadores Hallaron una Forma de Leer los 'Pensamientos Ocultos' de la IA, lo que Plantea Cuestiones Reales de Seguridad
Un equipo de informáticos logró acceder al razonamiento secreto que los principales modelos de IA mantienen oculto. Lo que encontraron en su interior incluye contraseñas filtradas y algunas preguntas incómodas sobre una empresa china de IA.
Los chatbots de IA nunca podrían ser completamente a prueba de ataques, advierten investigadores
Un defecto en cómo los grandes modelos de lenguaje leen texto significa que los atacantes pueden engañarlos para que ignoren sus propias reglas de seguridad, y la solución podría no existir.