La IA es un producto humano, no una fuerza mágica. Un nuevo libro quiere que lo entiendas.

Puntos clave

• El libro de Eleanor Drage sostiene que la IA se construye sobre trabajo humano, desde la extracción de materias primas hasta el etiquetado de datos de entrenamiento, no sobre ninguna inteligencia misteriosa.
• Drage afirma que las grandes empresas tecnológicas no pueden cumplir sus promesas utópicas mientras prioricen la ganancia sobre el interés público.
• La obsesión cultural con la extinción causada por la IA, argumenta, distrae de soluciones prácticas que podrían hacer la IA más segura ahora mismo.
• Desmitificar el lenguaje de marketing, como "la nube" y "alucinación", es una forma concreta en que los ciudadanos pueden resistirse a las narrativas de las empresas tecnológicas.

La expresión "inteligencia artificial" tiene mucho peso. Evoca imágenes de algo vasto e incognoscible, casi sobrenatural. Eleanor Drage, eticista de IA en la Universidad de Cambridge, quiere disolver esa impresión por completo.

Su nuevo libro, reseñado por The Guardian, sostiene que la IA no es una fuerza mística. Es el producto del trabajo de personas en minas de silicio y cuarzo, fábricas de microchips y centros de etiquetado de datos, donde la gente recibe dinero para etiquetar imágenes y texto para que los sistemas de aprendizaje automático, el software que aprende patrones de enormes conjuntos de datos, puedan entrenarse. Comprender esa cadena humana, dice Drage, es cómo los ciudadanos comienzan a recuperar el poder de las empresas que construyen estos sistemas.

¿Qué significa realmente la jerga?

El movimiento más claro y útil de Drage es atacar el lenguaje en sí. "La nube" suena como un fenómeno natural. Es simplemente la computadora de alguien más. Una "alucinación" de IA, término usado cuando un chatbot afirma confiadamente algo falso, es realmente un error del sistema o un error en el etiquetado de datos. Llamarlo alucinación implica que la máquina tiene una mente que ocasionalmente se distrae. No la tiene.

"Inteligencia" es el mayor engaño de manos. La palabra es amplia, cargada y, según Drage, potencialmente engañosa cuando se aplica a software que predice la siguiente palabra en una oración.

¿Debería preocuparse la gente de que la IA acabe con la humanidad?

Drage es escéptica de que el encuadre apocalíptico ayude a la gente ordinaria. La historia dominante de Silicon Valley, que la IA entregará una edad de oro o destruirá la civilización, es convincente pero conveniente. Aleja la atención de preguntas prácticas: ¿Quién controla los datos que alimentan estos sistemas? ¿Cómo debe regularse la IA? ¿Qué derechos tienen los trabajadores y usuarios?

El discurso apocalíptico también crea una jerarquía falsa de problemas. El cambio climático, la inestabilidad geopolítica y la desigualdad económica ya causan un daño enorme a personas reales hoy. Drage señala que resolver esos problemas también reduciría muchos riesgos relacionados con la IA.

El argumento más agudo del libro es simple. Las grandes empresas tecnológicas no pueden honestamente prometer la utopía mientras persiguen la ganancia y sirven a un grupo estrecho de accionistas. Los dos objetivos están en tensión directa.

¿Qué puede hacer realmente una persona ordinaria?

El consejo práctico de Drage se centra en el escepticismo informado. Cuestiona los términos de marketing. Pregunta quién se beneficia cuando una empresa describe su producto como "inteligente" o sus errores como "alucinaciones". Exige reglas más claras sobre cómo se recopilan y utilizan los datos personales para entrenar modelos de IA.

Nada de eso requiere un título en ciencias de la computación. Requiere las mismas habilidades de lectura crítica que las personas aplican a cualquier otra industria que hace grandes promesas.

Preguntas frecuentes

¿Qué es un centro de etiquetado de datos?

Es un lugar de trabajo donde a las personas se les paga para revisar y etiquetar contenido, como marcar qué imágenes contienen un gato o señalar texto dañino, para que los sistemas de IA tengan información limpia y organizada de la que aprender.

¿Por qué importa el lenguaje que usan las empresas tecnológicas?

Palabras como "alucinación" o "inteligencia" moldean cómo el público piensa sobre la responsabilidad. Si un chatbot "alucina", suena como un fallo más allá del control de cualquiera. Si comete un error de etiquetado, alguien es responsable de corregirlo.