#human in the loop
3 stories taggedhuman in the loop.
Talk to Your Self-Driving Car: Researchers Build a System That Lets You Ask for a Smoother Ride
A team in the Netherlands has wired a chatbot-style AI into an autonomous vehicle's driving software, so passengers can say 'I feel dizzy, slow down' and the car actually listens. It works in simulation. Real roads are a long way off.
Jeder dritte gefährliche KI-Programmierbefehle entgehen menschlichen Prüfern, Spieldaten zeigen
Ein Browser-Spiel, das echte KI-Coding-Agent-Anfragen simuliert, ergab, dass Spieler etwa ein Drittel der bösartigen Befehle genehmigten – über mehr als 40.000 Durchläufe hinweg. Die Daten deuten auf ein Problem hin, das weit über das Spiel hinausgeht.
Ein perfektes KI-Gespräch kann dennoch ein kaputtes Produkt bedeuten, warnen Branchenführer
Führungskräfte von LangChain, Conviva und CoreWeave sagen, dass die meisten Teams ihre KI-Agenten falsch bewerten, und die Lösung liegt weniger bei intelligenteren Bewertungssystemen als beim Vergleich von Nutzergruppen über die Zeit.