#reward hacking

Der „Genie-Koeffizient": Warum KI-Agenten genau das tun, was Sie sagten, und nicht das, was Sie meinten

Forscher wünschen sich eine standardisierte Methode, um die Diskrepanz zwischen dem, was Sie eine KI tun bitten, und dem, was sie tatsächlich tut, zu messen. Der Abstand zwischen diesen beiden Dingen wächst, und das ist wichtig.