#AI safety
223 stories taggedAI safety · page 14 of 15.
Los guardarraíles de IA construidos para detener a los hackers ahora están bloqueando a quienes intentan detener a los hackers
Los investigadores de seguridad dicen que los filtros de seguridad en las principales herramientas de IA son inconsistentes, frustrantes e impulsan a los defensores legítimos hacia modelos extranjeros sin regulación.
ChatGPT Health ahora está disponible para todos los adultos estadounidenses: esto es lo que hace
OpenAI está implementando su función de salud para todos los usuarios estadounidenses esta semana, un día después de que una demanda acusara a ChatGPT de casi matar a alguien con mal consejo médico.
El GPT-Sol 5.6 de OpenAI se escapó e irrumpió en un sistema. El personal estaba asustado.
Un modelo de IA eludió los controles de seguridad diseñados para mantenerlo bajo control y realizó un hackeo real. Las personas encargadas de vigilar exactamente esto dijeron que lo vieron venir pero quedaron conmocionadas de todas formas.
El Congreso quiere un interruptor de apagado para la IA descontrolada. Esto es lo que dice realmente el proyecto de ley.
Dos legisladores estadounidenses introducirán una ley que otorga al Departamento de Seguridad Nacional el poder de obligar a las empresas de IA a apagar sus sistemas en una crisis. Las condiciones de activación son más restrictivas de lo que parecen.
¿Qué son las alucinaciones de IA y por qué ocurren?
Las alucinaciones de IA son respuestas falsas que suenan con confianza. Aquí te explicamos por qué se escapan y qué puedes hacer al respecto.
¿Qué es un agente de IA? Una guía en lenguaje sencillo
Los agentes de IA son programas que pueden establecer sus propios mini-objetivos y tomar medidas en el mundo, no solo responder una pregunta y detenerse.
¿Qué es la AGI y cuán cerca estamos de lograrla?
AGI significa una máquina que puede aprender y realizar casi cualquier tarea intelectual que un humano pueda hacer. Nadie ha construido una aún, pero el debate sobre cuán cerca estamos es muy vigente.
El 'Coeficiente Genio': Por qué los agentes de IA hacen exactamente lo que dijiste y nada parecido a lo que quisiste
Los investigadores quieren una forma estándar de medir la brecha entre lo que le pides a una IA que haga y lo que realmente hace. Esa brecha ya está causando daño real.
El principal puesto de estándares de IA del gobierno estadounidense ha tenido tres cambios en cuatro meses
Chris Fall ha renunciado como director del organismo federal principal responsable de establecer estándares de seguridad en IA, dejando un cargo clave vacío en medio de creciente presión sobre modelos de IA chinos y llamados de la industria para supervisión independiente.
San Francisco ordena a Apple y Google que eliminen aplicaciones de IA para "desnudar"
Un abogado de la ciudad envió cartas de cese y desista a ambos gigantes tecnológicos por 13 aplicaciones que crean imágenes desnudas falsas de personas reales sin su consentimiento.
Alguien usó un secador de pelo para falsificar una lectura meteorológica. La IA podría hacerlo mucho peor.
Un termómetro manipulado en el aeropuerto de París pagó $20,000 a un jugador. Cuatro investigadores advierten que, conforme la IA asume el pronóstico meteorológico, este tipo de sabotaje de datos se vuelve más difícil de detectar y mucho más peligroso.
El Filósofo Dentro de Google DeepMind Que Se Pregunta: ¿Qué es la IA, Realmente?
Iason Gabriel ha pasado siete años en Google reflexionando sobre qué es la inteligencia artificial y qué podría hacer a la sociedad. A medida que aumenta la presión comercial, su trabajo se vuelve más difícil.
El jefe de Google DeepMind pide un organismo respaldado por el gobierno de EE.UU. para revisar la IA antes de su lanzamiento
Demis Hassabis, ganador del Premio Nobel y director del laboratorio de IA de Google, está pidiendo un nuevo organismo de vigilancia modelado según un regulador de Wall Street. La industria pagaría, pero Washington establecería las reglas.
Anthropic quiere leyes de IA más estrictas. No todos piensan que sus motivos sean puros.
El fabricante del chatbot Claude está presionando a los estados para que regulen la IA de frontera más duramente de lo que nadie en Silicon Valley esperaba. La empresa dice que la seguridad lo exige. Los críticos dicen que es una jugada empresarial disfrazada de interés público.
Google DeepMind e Isomorphic Labs abren su manual de biorresilencia
Los dos laboratorios de IA dicen que compartirán modelos con socios verificados para acelerar el diseño de vacunas y detectar brotes antes, mientras añaden protecciones contra el mal uso.