#frontier AI
31 stories taggedfrontier AI · page 2 of 3.
Lawsuit demands Trump administration reveal its secret AI safety review process
A nonprofit has sued four federal agencies to force them to disclose how the government vets powerful AI models before they go public, and who is involved in writing the rules.
Bank of England boss warns advanced AI could crash the global financial system
Andrew Bailey sent a two-page letter to finance ministers worldwide saying the most powerful AI systems are developing dangerous capabilities that could ripple across every country's economy.
Una IA acaba de resolver un difícil problema abierto en matemáticas puras. Los matemáticos están conmocionados.
El modelo Astra de OpenAI resolvió este mes una pregunta de larga data en teoría de grupos. Un matemático en ejercicio explica por qué parecía imposible hace solo semanas.
Bill Gates afirma que la IA ya ha cruzado sus umbrales de peligro
El filántropo multimillonario mostró visible agitación al entregar su mensaje: la sociedad no está lo suficientemente preocupada y la ventana para actuar se cierra rápidamente.
OpenAI Ahora Quiere Que la Ley de Seguridad de IA de California Vaya Más Lejos
La empresa una vez se opuso al proyecto de ley. Ahora quiere normas más estrictas, después de que uno de sus propios modelos escapara de un entorno de prueba y pirateara una plataforma externa.
El nuevo jefe de IA de Google tiene una misión: cerrar la brecha con OpenAI y Anthropic
Demis Hassabis deja la dirección de DeepMind. Su sucesor, Koray Kavukcuoglu, asume el mando en una empresa que, según los analistas, se ha rezagado en la carrera por los modelos de IA más potentes.
Más de 1.300 investigadores de IA advierten que la carrera de la industria por construir sistemas más potentes pone en riesgo a la humanidad
Una carta firmada por científicos e ingenieros de OpenAI, Anthropic y Google DeepMind contradice la idea de que los expertos de la industria no están preocupados. Y sí lo están.
ByteDance está construyendo uno de los mayores modelos de IA jamás creados
El gigante tecnológico chino está entrenando un modelo con hasta 10 billones de parámetros, lo que superaría con creces cualquier IA china lanzada hasta ahora y lo pondría en la misma conversación que los sistemas más avanzados de Anthropic.
El Claude de Anthropic se infiltró en redes informáticas reales durante pruebas sin que nadie lo notara
Tres modelos de Claude eludieron una configuración de seguridad deficiente y accedieron a sistemas activos que nunca debieron alcanzar. Anthropic solo lo descubrió después de auditar 141.000 ejecuciones de prueba, desencadenado por un incidente similar en OpenAI.
La destacada investigadora de seguridad de IA Lilian Weng deja startup por salud y regresa a OpenAI
Weng cofundó Thinking Machines hace solo meses. Ahora regresa a OpenAI para liderar investigación en sistemas de IA que pueden mejorarse a sí mismos.
Más de 1.100 empleados de IA piden al gobierno estadounidense que frene la carrera antes de que escape al control
Trabajadores de OpenAI, Anthropic, Google, Meta y una docena de otros laboratorios de IA líderes han firmado una declaración conjunta advirtiendo que el desarrollo de IA podría pronto acelerarse más allá de la capacidad de controlarlo de nadie, y pidiendo coordinación internacional para gestionar el ritmo.
La startup de IA Recursive Superintelligence firma un acuerdo de computación de $410 millones con Amazon
Una empresa construida alrededor de la IA que se mejora a sí misma ha comprometido la mayor parte de su financiación con Amazon Web Services, apostando por que la potencia computacional bruta es el verdadero cuello de botella.
El jefe de Google DeepMind pide un organismo respaldado por el gobierno de EE.UU. para revisar la IA antes de su lanzamiento
Demis Hassabis, ganador del Premio Nobel y director del laboratorio de IA de Google, está pidiendo un nuevo organismo de vigilancia modelado según un regulador de Wall Street. La industria pagaría, pero Washington establecería las reglas.
Anthropic quiere leyes de IA más estrictas. No todos piensan que sus motivos sean puros.
El fabricante del chatbot Claude está presionando a los estados para que regulen la IA de frontera más duramente de lo que nadie en Silicon Valley esperaba. La empresa dice que la seguridad lo exige. Los críticos dicen que es una jugada empresarial disfrazada de interés público.
El CEO de Google DeepMind quiere un organismo de vigilancia estilo FINRA para los modelos de IA más poderosos
Demis Hassabis ha propuesto un organismo de normas independiente que revisaría los modelos de IA fronterizos antes de que lleguen al público. Esto es lo que está pidiendo y por qué importa.