OpenAI, Anthropic y Google DeepMind Han Estado Negociando Silenciosamente Sobre Seguridad en IA Durante Semanas
Los tres grandes nombres de la IA se están coordinando a puerta cerrada sobre estándares de seguridad, y ahora uno de ellos lo ha confirmado públicamente.
Puntos clave
- Chris Lehane, jefe de política global de OpenAI, confirmó el martes que OpenAI, Anthropic y Google DeepMind han estado en conversaciones sobre seguridad en IA durante varias semanas.
- Las tres empresas aparentemente están trabajando juntas para crear un organismo de estándares industriales, una organización de autocontrol que establecería reglas que los laboratorios de IA se comprometieran a seguir.
- El CEO de Anthropic, Dario Amodei, publicó un ensayo el sábado instando a las empresas de IA a ralentizar el desarrollo de IA de frontera para evitar riesgos catastróficos.
- Sam Altman de OpenAI apoyó públicamente el ensayo de Amodei y dijo que OpenAI permitiría que evaluadores independientes externos ingresaran a la empresa para verificar que su IA se construya de forma segura.
- El presidente Trump ha descartado las preocupaciones sobre seguridad en IA como un engaño, y su asesor de IA David Sacks calificó los temores sobre riesgos existenciales de la IA como exagerados.
Durante meses, las empresas de IA más grandes parecían ser competidores feroces. Resulta que también han estado manteniendo un tipo muy diferente de conversación en privado.
Chris Lehane, jefe de política global de OpenAI, dijo a los reporteros el martes que su empresa ha pasado semanas en conversaciones con los rivales Anthropic y Google DeepMind sobre seguridad en IA, según informó Bloomberg por primera vez. Lehane estaba en Washington para reunirse con legisladores sobre los riesgos que plantean los sistemas de IA más poderosos, conocidos como modelos de frontera.
¿En qué están realmente de acuerdo?
Las conversaciones se centran en estándares de seguridad y, aparentemente, en un organismo industrial compartido para aplicarlos. Altman aparentemente le dijo al personal que la organización tendría que existir sin respaldo del gobierno estadounidense.
El CEO de Google DeepMind, Demis Hassabis, había instado al gobierno estadounidense en julio a establecer exactamente este tipo de organismo, uno con poder para examinar los modelos de IA más avanzados del mundo y coordinar desaceleraciones en toda la industria si los peligros aumentaban lo suficiente. Hemos rastreado su posicionamiento público en once historias desde julio.
La sincronización sigue el ensayo del CEO de Anthropic, Dario Amodei, publicado el sábado, instando a la industria a ralentizar el ritmo del desarrollo de IA de frontera. Altman lo respaldó públicamente. También lo hizo Elon Musk. Altman también dijo que OpenAI integraría evaluadores de terceros dentro de la empresa para monitorear problemas de seguridad.
¿Podría esta coordinación violar la ley de competencia?
Sí, posiblemente. El mismo Altman señaló que coordinarse con rivales podría arriesgar violar la ley antimonopolio, las reglas que impiden que las empresas conspiren para excluir la competencia, si los reguladores deciden que las conversaciones suprimen la competencia en lugar de proteger al público. El ensayo de Amodei propuso una exención gubernamental limitada para dar cobertura legal a las empresas. Sin embargo, Lehane dijo públicamente el martes que no se necesita exención.
Esa es una afirmación significativa, y que recibirá escrutinio.
En la misma reunión del martes, Lehane dijo que OpenAI apoya una disposición en la Ley FRONTIER, una propuesta legislativa, que requeriría que los principales laboratorios de IA permitan que "organizaciones de verificación independientes" ingresaran a sus empresas para verificar que los modelos se construyan de forma segura. Eso se alinea con lo que Altman ya prometió voluntariamente. AI2Day cubrió por primera vez la Ley FRONTIER el 14 de septiembre.
¿Deberías preocuparte por el teatro de la seguridad?
La preocupación honesta aquí es que un organismo de autocontrol dirigido por las mismas empresas que se supone debe vigilar tiene solo tanta credibilidad como las personas dentro de él. Si el organismo de estándares se forma sin membresía independiente y sin mandato gubernamental, es un comunicado de prensa disfrazado de gobernanza.
La Casa Blanca no es entusiasta de todas formas. Trump ha calificado la seguridad de la IA como un engaño, y Sacks dijo que los temores sobre riesgos existenciales son exagerados. Cualquier marco formal provendrá de la industria misma, no de Washington.
Observa si se anuncia el organismo de estándares, y si tiene algún poder real una vez que lo haga.
