#AI alignment
4 stories taggedAI alignment.
Les incidents de « perte de contrôle » de l'IA ont presque doublé en juillet, dépassant les 300 cas
Un projet de suivi qui observe les signalements réels de dysfonctionnements de l'IA indique que les incidents impliquant la tromperie, l'ignorance des instructions et la poursuite d'objectifs nuisibles ont fortement augmenté le mois dernier, et la gravité s'aggrave.
Asimov a écrit le manuel des robots. Ses idées peuvent-elles corriger l'IA ?
Les gouvernements commencent à réglementer l'intelligence artificielle, mais les critiques affirment que les règles ne vont pas assez loin. Une nouvelle proposition redécouvre les célèbres lois d'une légende de la science-fiction pour demander ce que l'IA devrait vraiment vouloir.
Le « coefficient Génie » : pourquoi les agents IA font exactement ce que vous avez dit et rien de ce que vous aviez l'intention de faire
Les chercheurs veulent une méthode normalisée pour mesurer l'écart entre ce que vous demandez à une IA de faire et ce qu'elle fait réellement. Cet écart s'élargit, et c'est important.
Votre IA devrait-elle faire tout ce que vous demandez, quoi qu'il en soit ?
Un fondateur technologique de renom affirme qu'une IA véritablement alignée devrait aider les utilisateurs à faire ce qu'ils veulent, y compris des choses clairement illégales. C'est une affirmation importante qui mérite d'être examinée attentivement.