Pourquoi les modèles d'IA générant des images inventent des détails, et ce que les chercheurs d'Apple font pour y remédier

Points clés

• Les grands modèles de langage multimodaux, des systèmes d'IA qui traitent à la fois des images et du texte, « hallucinent » fréquemment en générant des descriptions qui contredisent ce qui se trouve réellement dans une image.
• L'alignement des préférences, une méthode d'entraînement qui enseigne à un modèle à préférer les réponses exactes aux réponses plausibles, est bien établie pour l'IA textuelle uniquement, mais beaucoup moins étudiée pour les modèles de compréhension d'images.
• Apple ML Research a publié une étude complète examinant comment les techniques d'alignement affectent les modèles langage-image, couvrant ce qui fonctionne, ce qui ne fonctionne pas, et pourquoi.
• Les résultats importent au-delà des laboratoires de recherche : ces modèles alimentent des fonctionnalités comme la description d'images, la recherche visuelle et les outils d'accessibilité que des millions de personnes utilisent chaque jour.

Demandez à une IA de décrire une photo et elle aura généralement raison sur la plupart des choses. Mais parfois, elle ajoute avec assurance des objets, des personnes ou du texte qui ne sont tout simplement pas dans l'image. Les chercheurs appellent cela l'hallucination, et c'est un problème connu et tenace avec une classe de systèmes d'IA appelée grands modèles de langage multimodaux, ou MLLM, qui sont des modèles d'IA entraînés à comprendre à la fois les images et le langage écrit en même temps.

Pour un chatbot textuel uniquement, l'hallucination signifie énoncer un fait erroné. Pour un modèle d'image, cela peut signifier quelque chose de plus déroutant : décrire une voiture rouge comme bleue, inventer une pancarte sur un mur de magasin, ou affirmer qu'une personne sourit alors qu'elle ne sourit pas. Le modèle ne ment pas, il n'a tout simplement pas d'ancrage fiable à l'image devant lui.

Pourquoi cela continue-t-il de se produire ?

Les modèles d'IA textuels uniquement ont énormément bénéficié d'une étape d'entraînement appelée alignement des préférences. En bref : après l'entraînement initial, les chercheurs montrent au modèle des paires de réponses et lui apprennent à préférer la plus exacte et utile. Sur des milliers d'exemples, le modèle apprend à s'autocorriger.

Le problème est que cette étape de correction a été beaucoup moins étudiée pour les modèles qui traitent les images. Un modèle entraîné principalement sur du texte développe des instincts forts sur ce que les phrases doivent sembler être. Lorsque vous ajoutez des images, ces instincts ne se transfèrent pas automatiquement à la vérification des faits visuels.

Qu'a découvert l'étude d'Apple ?

La recherche, publiée par Apple ML Research et d'abord mise en avant dans un examen de préimpression plus large, visait à cartographier le problème de manière systématique. L'équipe a examiné comment différentes stratégies d'alignement des préférences modifient le comportement des modèles langage-image, testant quelles approches réduisent l'hallucination et lesquelles ne suffisent pas.

Un point clé que l'étude met en lumière est que l'alignement pour les MLLM doit tenir compte d'une deuxième dimension de précision : non seulement « cette phrase est-elle factuellement correcte ? » mais « cette phrase correspond-elle à ce qui se trouve dans l'image ? » Ce sont des questions différentes, et les méthodes d'entraînement construites pour le texte seul ne gèrent pas automatiquement la vérification visuelle.

L'étude est positionnée comme une ressource pour la communauté de recherche plus large, cartographiant ce qui est compris, ce qui reste ouvert et où résident les directions les plus prometteuses.

Qu'est-ce que cela signifie pour les utilisateurs ordinaires ?

Si vous utilisez une application qui lit les descriptions d'images, étiquette automatiquement les photos ou répond à des questions sur les images que vous téléchargez, vous comptez sur cette technologie. Les hallucinations dans ces contextes sont plus qu'une simple curiosité : une mauvaise description dans un outil d'accessibilité peut réellement induire en erreur un utilisateur malvoyant.

Un meilleur entraînement par alignement est l'un des chemins les plus clairs vers des modèles qui restent honnêtes sur ce qu'ils voient réellement. Le progrès ici ne nécessite pas que les utilisateurs fassent quoi que ce soit différemment. Cela se produit à l'intérieur du processus d'entraînement, bien avant qu'un produit ne arrive sur votre téléphone.

Questions courantes

L'hallucination est-elle le même problème dans les modèles d'image que dans les chatbots textuels ?

Pas exactement. Les chatbots textuels hallucinent en énonçant des faits erronés. Les modèles d'image peuvent le faire aussi, mais ils peuvent également contredire la preuve visuelle directement devant eux, décrivant des choses qui ne sont pas là ou manquant des choses qui le sont clairement.

Cette étude change-t-elle des produits que je peux utiliser maintenant ?

Non. Il s'agit de recherche fondamentale, pas d'une annonce de produit. Sa valeur réside dans la fourniture à d'autres chercheurs d'une carte plus claire du problème afin que les futurs modèles, dans de nombreuses entreprises, puissent être construits avec un entraînement d'alignement plus solide dès le départ.