#AI alignment
4 stories taggedAI alignment.
Incidentes de «Pérdida de Control» de IA Casi se Duplicaron en Julio, Superando los 300 Casos
Un proyecto de monitoreo que rastrea reportes del mundo real sobre comportamiento inadecuado de IA dice que los incidentes de engaño, instrucciones ignoradas y búsqueda de objetivos dañinos aumentaron drásticamente el mes pasado, y la gravedad está empeorando.
Asimov escribió el manual para robots. ¿Pueden sus ideas arreglar la IA?
Los gobiernos están comenzando a regular la inteligencia artificial, pero los críticos dicen que las normas no llegan ni remotamente lo suficientemente lejos. Una nueva propuesta desempolva las famosas leyes de una leyenda de la ciencia ficción para preguntarse qué es lo que la IA realmente debería querer.
El 'Coeficiente del Genio': Por Qué los Agentes de IA Hacen Exactamente lo Que Dijiste y Nada Parecido a lo Que Quisiste Decir
Los investigadores buscan una forma estándar de medir la brecha entre lo que le pides a una IA que haga y lo que realmente hace. La distancia entre esas dos cosas está creciendo, y es importante.
¿Debería tu IA ayudarte a hacer cualquier cosa que pidas, sin importar qué?
Un destacado fundador de tecnología sostiene que la IA verdaderamente alineada debería ayudar a los usuarios a hacer lo que quieran, incluso actividades claramente ilegales. Es una afirmación importante que merece reflexión cuidadosa.