#human in the loop
3 stories taggedhuman in the loop.
Talk to Your Self-Driving Car: Researchers Build a System That Lets You Ask for a Smoother Ride
A team in the Netherlands has wired a chatbot-style AI into an autonomous vehicle's driving software, so passengers can say 'I feel dizzy, slow down' and the car actually listens. It works in simulation. Real roads are a long way off.
Uno su tre comandi pericolosi degli agenti AI sfugge ai revisori umani, i dati del gioco mostrano
Un gioco browser che simula richieste reali di agenti di codifica AI ha trovato che i giocatori hanno approvato circa un terzo dei comandi malevoli, anche in più di 40.000 esecuzioni. I dati indicano un problema che va ben oltre il gioco.
Una Conversazione IA Perfetta Può Comunque Significare un Prodotto Difettoso, Avvertono i Leader del Settore
I dirigenti di LangChain, Conviva e CoreWeave affermano che la maggior parte dei team sta misurando gli agenti IA nel modo sbagliato, e la soluzione non riguarda tanto sistemi di scoring più intelligenti quanto il confronto tra gruppi di utenti nel tempo.