El filósofo dentro de Google DeepMind que pregunta: ¿Qué es la IA, realmente?

Puntos clave

• Iason Gabriel se unió a Google en 2017, convirtiéndose en uno de los etólogos de IA con más antigüedad en cualquier gran empresa tecnológica.
• Gabriel trabaja en Google DeepMind, la división de investigación que desarrolla algunos de los sistemas de IA más avanzados del mundo.
• La presión comercial y la carrera entre Estados Unidos y China por la supremacía de la IA están haciendo que la revisión ética sea más difícil, no más fácil.
• La pregunta central a la que vuelve su trabajo: nadie entiende completamente qué es un modelo de lenguaje grande, la tecnología detrás de chatbots como ChatGPT y Gemini.

Iason Gabriel es filósofo. Trabaja dentro de uno de los laboratorios de IA más poderosos del planeta, y su trabajo, en términos generales, es hacer preguntas incómodas antes de que un producto se lance, no después.

Se unió a Google en 2017, cuando la frase "ética de la IA" aún sonaba académica. Siete años después, los riesgos se ven muy diferentes.

Gabriel trabaja en Google DeepMind, la división de investigación con sede en Londres que Google formó en 2023 fusionando sus dos principales brazos de investigación de IA. DeepMind construyó AlphaFold, el sistema que descifró la estructura de casi todas las proteínas conocidas. También trabaja en Gemini, la familia de modelos de lenguaje grande de Google, el mismo tipo de IA que impulsa los chatbots conversacionales.

¿Qué cambia realmente un etólogo de IA?

Honestamente, eso es controvertido. El trabajo de Gabriel implica anticipar daños antes de que ocurran: pensar cómo un sistema podría ser mal utilizado, a quién podría perjudicar, qué valores debería reflejar. Pero anticipar daños y prevenirlos son dos cosas diferentes.

La presión es real. Los gobiernos de Estados Unidos y China tratan la IA como un activo estratégico, invirtiendo miles de millones en desarrollo e instando a la rapidez. Las empresas enfrentan expectativas de inversores y amenazas competitivas de rivales que lanzan nuevos modelos cada pocos meses. En ese entorno, un filósofo que dice "espera, reflexionemos sobre esto" nada contra una corriente muy fuerte.

Gabriel dijo a The Guardian que una pregunta sigue surgiendo sin importar cuánto avance la tecnología. "Existe este misterio profundo sobre qué, realmente, es esto". Nadie, incluidos los ingenieros que construyen estos sistemas, entiende completamente por qué los modelos de lenguaje grande se comportan de la manera en que lo hacen. Procesan enormes cantidades de texto, detectan patrones y generan respuestas que pueden parecer reflexivas o incluso creativas. Pero el mecanismo interno sigue siendo, de formas importantes, opaco.

Esa opacidad importa para la ética. Si no puedes explicar por qué un sistema tomó una decisión, se vuelve muy difícil responsabilizar a alguien cuando algo sale mal.

Para la gente común, la implicación práctica es simple: las herramientas de IA que usas en el trabajo, en la sanidad o en la escuela son construidas por empresas donde gente como Gabriel está luchando por tener un asiento en la mesa. Si ganan ese argumento moldeará lo que esas herramientas te hacen.

La presencia de Gabriel no garantiza buenos resultados. Pero su ausencia probablemente los empeoraría. La pregunta, siete años después, es si la ética funciona como un freno genuino o como decoración reconfortante en una máquina demasiado rápida para detenerse.