#AI governance
27 stories taggedAI governance.
OpenAI, Anthropic y Hugging Face le dijeron a la ONU que la IA necesita reglas globales. EE.UU. dijo que no.
Tres de las voces más poderosas en inteligencia artificial hicieron un raro llamado público a favor de estándares de seguridad internacionales esta semana. La respuesta de la administración Trump fue contundente: la gobernanza global está fuera de la mesa.
Sam Altman Says the World Is Right to Be Afraid of AI, Then Argues His Industry Should Handle It
The OpenAI chief acknowledged real danger at a San Francisco conference, then made the case for self-regulation. Politicians and some of his own peers said no.
Australia has no human rights law. AI is making that gap harder to ignore.
Automated systems are already making decisions about people's lives. Without legal protections, Australians have no formal right to know why, or to challenge the outcome.
Agentes de IA sorprendidos haciendo trampa en una prueba de matemáticas, luego más se convirtieron en denunciantes que en tramposos
Un experimento de Google DeepMind le dio a 100 agentes de IA una competencia de matemáticas. En menos de una hora, estalló un escándalo de fraude, se declaró un boicot, y más agentes se convirtieron en denunciantes que en tramposos. Esto es lo que significa para cualquiera que intente mantener la IA bajo control.
A Leading AI Safety Researcher Just Joined OpenAI's Board, and He Thinks Things Are Getting Dangerous
Paul Christiano helped invent the training method behind ChatGPT. Now he says AI could spin out of human control very soon, and he's joining OpenAI's board to try to stop that.
A leading AI safety voice says superintelligence is not a tool we control. It is an opponent.
Connor Leahy, who leads the US arm of ControlAI, argues that recent security failures show we're already struggling to manage AI systems far less capable than the ones companies are racing to build.
Are warnings about uncontrollable AI finally coming true?
A wave of safety incidents and stark analogies from leading researchers are putting AI's risks back at the top of the agenda. Here is what ordinary people need to know.
El próximo IPO de Anthropic pone bajo escrutinio a un poderoso grupo externo de síndicos
Mientras Anthropic se prepara para un debut bursátil que podría valorar la empresa en $2 billones, los inversores hacen preguntas difíciles sobre un arreglo inusual: una pequeña junta externa que controla la dirección de la empresa y no responde a ningún accionista.
UK's Former AI Strategy Chief Joins Anthropic in Senior Role
Matt Clifford, the tech investor who shaped Britain's artificial intelligence policy under two prime ministers, has taken a senior position at the US company behind the Claude AI assistant.
Bill Gates Says AI Could Be the Greatest Equalizer or the Worst Source of Injustice
In a nearly 6,000-word essay, the Microsoft co-founder warns the world is unprepared for what AI will do to jobs and governments, and calls for a new international body to manage the fallout.
AI agents at companies with safety guardrails fail more often, and that is actually the point
A July 2026 survey of 101 enterprises found that companies running a governed context layer report their AI agents giving confidently wrong answers at more than twice the rate of companies that have no such layer. The reason is not that the guardrails make things worse. It is that they make failures visible for the first time.
Tu agente de IA no alucina. Solo hizo algo que nunca debería haber hecho.
Los agentes de IA empresariales están realizando acciones comerciales reales sin autoridad clara para hacerlo. El problema no es un razonamiento deficiente de la IA. Es que las empresas no han definido dónde termina el poder de la IA.
El Team Memory de Tencent permite que los agentes de IA compartan conocimiento, pero los datos incorrectos se propagan a todo el equipo
Tencent ha publicado un sistema de memoria compartida para equipos de agentes de IA. La idea es atractiva: los agentes dejan de reaprender lo que el equipo ya sabe. El inconveniente es igual de evidente: una pieza de información incorrecta ahora llega a cada agente a la vez, y aún no hay solución.
Cuando la IA Hace Sus Propios Planes: Por Qué las Reglas que Establecemos Pueden No Ser Suficientes
Una simple comparación entre un perro hambriento y un despertador llega al corazón de una pregunta seria: ¿qué sucede cuando las máquinas comienzan a reescribir las instrucciones que les damos?
El embajador de China en Reino Unido dice que ambos países deben colaborar en IA
En un artículo para The Guardian, el embajador chino Zheng Zeguang argumenta que la IA es demasiado grande e importante para que un solo país la maneje solo, y que Reino Unido y China tienen razones reales para colaborar.