Más de 1.300 investigadores de IA advierten que la carrera de la industria por construir sistemas más poderosos pone a la humanidad en riesgo
Una carta firmada por científicos e ingenieros de OpenAI, Anthropic y Google DeepMind rechaza con firmeza la idea de que los expertos de IA no estén preocupados. Lo están.
Puntos clave
- Una carta firmada por 1.367 investigadores e ingenieros de IA, principalmente de OpenAI, Anthropic y Google DeepMind, advierte que el ritmo actual de desarrollo de IA conlleva riesgos graves para la humanidad.
- Los firmantes trabajan en IA de frontera, es decir, en los sistemas de IA más potentes y avanzados que se construyen hoy, lo que la convierte en una de las advertencias más directas de expertos internos hasta la fecha.
- La carta contradice la afirmación común de que solo los críticos externos se preocupan por la catástrofe de la IA.
- La carta no incluye ninguna demanda específica o propuesta de política, pero su existencia señala una inquietud creciente dentro de los propios laboratorios.
Durante años, una línea reconfortante ha circulado en círculos tecnológicos: las personas que construyen IA no tienen miedo, así que tú tampoco deberías. Cualquiera que levante alarmas, argumentan, es ingenuo o no entiende la tecnología.
Una carta abierta recientemente publicada abre un gran agujero en ese argumento.
¿Quién la firmó y por qué es importante?
La carta cuenta con 1.367 firmas de investigadores e ingenieros que trabajan en laboratorios de IA de frontera, el pequeño grupo de organizaciones que compiten por construir los sistemas de IA más poderosos del mundo. La mayor parte de los firmantes proviene de tres nombres que reconocerás: OpenAI, Anthropic y Google DeepMind.
No son críticos externos. Escriben el código, entrenan los modelos y realizan los experimentos. Sus vidas profesionales se dedican a hacer que la IA sea más capaz. Y están preocupados.
The Guardian informó primero sobre la carta y sus implicaciones en un artículo del investigador de IA Stuart Russell.
¿Cuál es exactamente su preocupación?
La carta señala el riesgo catastrófico, la posibilidad de que los sistemas de IA avanzados causen daños de gran escala y difíciles de revertir. Los firmantes describen el momento actual como peligroso.
Este es un desafío directo a un patrón que se ha vuelto común en el debate público. Los críticos de las preocupaciones sobre seguridad de la IA a menudo son rechazados como "apocalípticos" o "luditas" que promueven una visión "marginal" basada en ciencia ficción. Los autores de la carta dicen claramente: esa caracterización es errónea.
El hecho de que tantos expertos internos estén dispuestos a poner sus nombres a una declaración pública es en sí mismo significativo. Los investigadores de grandes laboratorios de IA rara vez hablan públicamente de formas que podrían avergonzar a sus empleadores.
¿Qué significa esto para las personas comunes?
Significa que la conversación sobre riesgo de IA no es marginal. Cuando más de mil personas que construyen la tecnología dicen que están preocupadas, eso merece atención.
No significa que la IA causará definitivamente una catástrofe. Significa que las personas con la mejor perspectiva de lo que sucede dentro de estos sistemas creen que los riesgos son reales y lo suficientemente graves como para decirlo públicamente.
No se requiere ninguna acción específica del público en este momento. Pero si te han dicho que no te preocupes porque "los expertos" no están preocupados, esta carta es evidencia de que esa descripción nunca fue exacta.
¿Qué sucede ahora?
La carta no incluye una lista de demandas ni una solución política propuesta, lo que limita su impacto inmediato. Funciona más como una señal, una grieta en la fachada pública de confianza que los grandes laboratorios generalmente han presentado.
La presión por supervisión gubernamental del desarrollo de IA ha estado aumentando en Estados Unidos, Reino Unido y la Unión Europea. Cartas como esta tienden a añadir peso a esos llamados, incluso sin especificar exactamente qué deberían hacer los reguladores.
