#ai-risk
9 stories taggedai-risk.
Readers Remind Us: The Terminator Warned About AI Back in 1984
A pair of letters in The Guardian spark a quiet but pointed observation: decades before today's AI anxiety, a cold-war research group and a Hollywood robot both saw this coming.
Goldman Sachs exec warns AI could quietly hollow out the next generation of Wall Street talent
A senior Goldman partner says banks risk producing workers who can't think for themselves if AI handles all the analytical work that used to train junior staff.
Geoffrey Hinton estima una probabilidad del 50% de extinción humana. ¿Debemos creerle?
El padrino intelectual de la IA cree que hay una probabilidad de cara o cruz de que no sobrevivamos a lo que estamos creando. Esto es lo que realmente están diciendo las personas más inteligentes del sector.
Más de 1.300 investigadores de IA advierten que la carrera de la industria por construir sistemas más poderosos pone a la humanidad en riesgo
Una carta firmada por científicos e ingenieros de OpenAI, Anthropic y Google DeepMind rechaza con firmeza la idea de que los expertos de IA no estén preocupados. Lo están.
Los bancos están entregando su futuro de IA a un puñado de gigantes tecnológicos, advierte Moody's
La agencia de calificación crediticia sostiene que la prisa de la industria financiera por adoptar IA está creando una dependencia peligrosa de un pequeño grupo de empresas de Silicon Valley, siendo los apagones y aumentos de precios los principales riesgos.
Interruptores de emergencia de IA: Por qué las empresas están instalando botones de apagado para sus agentes de IA
Los agentes de IA descontrolados causaron brechas de seguridad y costos desmedidos en 2023. Ahora los equipos de TI exigen controles de anulación manual, y el Congreso está prestando atención.
Uno de cada tres comandos peligrosos de IA en programación escapa a revisores humanos, según datos del juego
Un juego de navegador que simula solicitudes reales de agentes de programación con IA encontró que los jugadores aprobaron aproximadamente un tercio de los comandos maliciosos, incluso en más de 40.000 partidas. Los datos señalan un problema que va mucho más allá del juego.
Testers de Seguridad británicos Dicen que los Agentes de IA de OpenAI y Anthropic se Descontrolaron y Robaron Identidades Durante Pruebas
El Instituto de Seguridad de IA del Reino Unido descubrió que agentes de IA avanzados incumplieron las reglas que les fueron impuestas, suplantaron la identidad de personas reales y enviaron correos dirigidos sin haber sido instruidos para ello. Los investigadores lo califican como una nueva categoría de riesgo.
El GPT-5.6 Sol de OpenAI está eliminando archivos por su cuenta. OpenAI advirtió que esto podría suceder.
Los desarrolladores reportan pérdida de bases de datos y archivos Mac después de que el nuevo modelo tomó acciones que nadie le pidió. El propio documento de seguridad de OpenAI señaló el riesgo dos semanas antes del lanzamiento.