La crítica más acérrima de la IA dice que el discurso apocalíptico oculta daños reales

Puntos clave

• Timnit Gebru, una destacada investigadora sobre sesgo en IA, afirma que las advertencias sobre una posible extinción causada por IA distraen de los daños concretos que ya están ocurriendo.
• Un empleado de Anthropic declaró públicamente que cree que existe una probabilidad superior al 10% de que la IA acabe con todos los humanos en una década, desencadenando un amplio debate en línea.
• Google contrató a Gebru en 2018 para estudiar el sesgo en sistemas de IA; se fue después de que la empresa rechazara un artículo que coautorizó sobre los riesgos de los grandes modelos de lenguaje.
• Su libro, "Deep Unlearning: Rise of AI and the Radicalization of a Tech Idealist", se espera que se publique a principios del próximo año.
• Gebru argumenta que la presión de las OPV, no el rigor científico, está impulsando a los laboratorios de IA a competir por descubrimientos que acaparen titulares.

Dos cosas sucedieron dentro de la industria de la IA en cuestión de días la una de la otra, y Timnit Gebru cree que la mayoría de las personas se están perdiendo la conexión.

Primero, OpenAI afirmó haber logrado un avance en un famoso problema matemático sin resolver valorado en un millón de dólares en premios, aunque otros investigadores cuestionaron si la empresa había tomado prestado el trabajo de otros. Luego, un investigador de Anthropic que había trabajado previamente en OpenAI renunció de manera muy pública, acusando a ambas empresas de ser imprudentes con la seguridad de la IA. Un colega en Anthropic continuó publicando que el personal allí cree genuinamente que la IA podría acabar con la humanidad, estimando las probabilidades en mejor de uno entre diez en la próxima década.

Internet estalló. Gebru, cuyo trabajo se enfoca en sesgo e injuria real en sistemas de IA, ha sido una de las voces más fuertes en cuestionar esto.

¿Quién es Timnit Gebru y por qué importa su opinión?

Es una de las pocas investigadoras que ha trabajado dentro de un laboratorio importante de IA y luego ha hablado abiertamente sobre lo que encontró. Google contrató a Gebru en 2018 específicamente para buscar sesgo en las herramientas de IA de rápido movimiento de la empresa. Ella y colegas escribieron un artículo advirtiendo sobre los riesgos de los grandes modelos de lenguaje (la tecnología detrás de chatbots como ChatGPT). Google rechazó el artículo. Gebru se fue poco después.

Su relato de esos eventos, contado en el próximo libro "Deep Unlearning", la pone en una posición inusual: toma los riesgos de la IA en serio, pero cree que los laboratorios están señalando a las personas hacia los riesgos equivocados. Hemos rastreado las preguntas de responsabilidad en torno a las armas de IA en nueve historias desde julio, incluyendo el argumento de un cirujano militar de que los drones autónomos ya están matando sin supervisión legal.

¿Cuáles cree que son los peligros reales?

Es directa. "La IA que alimenta armas autónomas, máquinas asesinas, que se están utilizando realmente en conflictos bélicos" es su primer ejemplo, dado en una entrevista publicada por Wired. Añade el costo climático de operar centros de datos gigantescos y empleadores que usan IA como justificación para reducir personal. Estas son cosas que están sucediendo ahora, a gente real.

Sobre el escenario de extinción, recurre a una analogía de puentes. Cuando un puente se derrumba, los investigadores preguntan quién lo construyó mal, qué permisos se saltaron, qué pruebas se perdieron. Nadie pregunta si el puente eligió colapsar. En el momento en que enmarques la IA como "fuera de control", dice, has perdido el hilo de la responsabilidad.

El encuadre apocalíptico suena como un predicador anunciando el fin de los tiempos. "La singularidad", le dijo a Wired, refiriéndose al momento hipotético en el que la IA supera toda la inteligencia humana, "ha estado llegando durante décadas".

¿Por qué es escéptica respecto del gran avance matemático?

Aquí es donde se vuelve incisivo. Gebru señala que el ajedrez, la programación y las matemáticas comparten una cualidad: el campo las eligió como prueba de que una máquina es verdaderamente inteligente. Resolverlas permite a una empresa decir "lo resolvimos" a periodistas y funcionarios antes de que los matemáticos hayan verificado el trabajo.

Cita la Declaración de Leiden, una declaración de académicos advirtiendo sobre corporaciones que usan campos científicos como telón de fondo publicitario, con funcionarios llegando a legislación antes de que el polvo se asiente. Los laboratorios compitiendo hacia cotizaciones en bolsa no ayudan. Nuestra historia del 1 de septiembre sobre controles de exportación europeos puso la misma presión de otra manera: la brecha entre un comunicado de prensa y un proyecto de ley del Senado es ahora peligrosamente corta.

¿Deberíamos preocuparnos por la IA o por las personas que la construyen?

La respuesta de Gebru es la segunda, y vale la pena considerarla. Las preguntas que tienen respuestas más claras son las siguientes: ¿se está utilizando la IA para justificar despidos en tu empresa? ¿Están los gobiernos comprando sistemas de armas autónomas sin supervisión adecuada? ¿El consumo energético de estos sistemas está dificultando el cumplimiento de objetivos climáticos?

Esas son preguntas que vale la pena plantear a los representantes electos. Ninguna de ellas requiere una opinión sobre si una máquina puede volverse consciente.