Google DeepMind coloca su IA en una caja criptográfica sellada para pruebas

Puntos clave

• Google DeepMind anunció el 27 de agosto de 2026 lo que denomina la primera evaluación de doble ciego del mundo de un modelo de IA fronterizo propietario.
• La prueba colocó un modelo Gemini Flash Lite dentro de un entorno criptográficamente sellado, protegiendo los indicadores de prueba de los sistemas de entrenamiento de Google.
• Los socios incluyeron al Instituto de Seguridad de IA de Singapur, OpenMined, AVERI y MLCommons.
• El sistema está diseñado para evitar la contaminación de puntos de referencia, donde un modelo ya ha visto preguntas de prueba antes de ser calificado.
• Google dice que los indicadores confinados al entorno criptográfico no pueden reutilizarse para entrenar el modelo posteriormente.

Imagina a un estudiante que accidentalmente ve el examen la noche anterior. Una puntuación perfecta a la mañana siguiente no te dice nada sobre lo que realmente sabe.

Ese es aproximadamente el problema que tiene la industria de la IA con los puntos de referencia, las pruebas estándar utilizadas para calificar cuán inteligente o seguro es un modelo. Si el modelo ya ha visto las preguntas durante el entrenamiento, la puntuación se infla y la confianza en ella colapsa.

Google DeepMind dice que tiene una solución, e implica criptografía.

¿Qué hizo realmente Google DeepMind?

El 27 de agosto de 2026, el laboratorio anunció una evaluación de doble ciego de uno de sus propios modelos. Ninguno de los dos lados podía inspeccionar el material del otro. Gemini Flash Lite, un miembro ligero de la familia Gemini de Google construido para velocidad y bajo costo, fue el sujeto de prueba.

Los indicadores de prueba fueron mantenidos por grupos externos e introducidos en lo que Google llama una caja criptográfica, un entorno informático seguro donde los datos que entran y los resultados que salen están protegidos matemáticamente de los humanos y sistemas de ambos lados. El modelo de Google nunca logra conservar o memorizar las preguntas para la próxima vez.

Cuatro socios ejecutaron el piloto con Google: el Instituto de Seguridad de IA de Singapur, un organismo de investigación respaldado por el gobierno; OpenMined, una organización sin fines de lucro de tecnología de privacidad; AVERI; y MLCommons, el grupo detrás de los puntos de referencia MLPerf ampliamente utilizados. Es la primera vez que reportamos sobre MLCommons y el Instituto de Seguridad de IA de Singapur aquí en AI2Day, habiendo cubierto previamente los experimentos recientes de seguridad de Google DeepMind el 21 de agosto de 2026.

¿Por qué importa esto para una persona común?

Las puntuaciones que citan las empresas de IA son tan honestas como las pruebas detrás de ellas. Los reguladores, hospitales y bancos eligen cada vez más herramientas de IA basadas en resultados de puntos de referencia. Los resultados inflados ponen la herramienta incorrecta en el trabajo incorrecto.

La contaminación de puntos de referencia es un problema conocido. Los modelos se entrenan en enormes secciones de internet, y las preguntas de prueba públicas frecuentemente se filtran en esos datos de entrenamiento accidentalmente. Un modelo que ha memorizado silenciosamente la clave de respuestas parece más inteligente de lo que realmente es.

Hasta ahora, las principales salvaguardas han sido documentación: acuerdos de confidencialidad, promesas de no registrar indicadores, confianza. Útil, pero no prueba.

¿En qué es diferente la versión criptográfica?

Reemplaza la confianza con matemáticas. En un entorno seguro construido adecuadamente, el evaluador envía una pregunta, obtiene una puntuación y puede estar seguro de que la pregunta sin procesar nunca fue expuesta a los sistemas de entrenamiento de Google o al personal.

Piénsalo como una cabina de votación sellada para IA. La papeleta entra, el recuento sale, nadie ve quién marcó qué.

Google presenta esto como un paso más allá de las reglas de registro cero existentes, no como un reemplazo para ellas. El laboratorio aún realiza controles de seguridad internos y trabaja con equipos rojos externos, especialistas pagados para intentar romper un modelo, antes del lanzamiento.

¿Qué sucede ahora?

Google DeepMind está llamando a esto un piloto: un modelo, una ronda, lecciones que aprender. La pregunta más grande es si otros laboratorios fronterizos, OpenAI, Anthropic, Meta, xAI, aceptan ser probados de la misma manera.

Si lo hacen, los Institutos Nacionales de Seguridad de IA finalmente obtienen algo que han querido durante años: una forma de calificar los sistemas más poderosos del planeta sin tener que confiar en los evaluadores ni en los estudiantes.

Si no lo hacen, la industria sigue calificando sus propias tareas.

Por ahora, un pequeño modelo Gemini se ha presentado a un examen para el cual genuinamente no podría haber estudiado. Eso, por sí solo, es nuevo.