Les Américains noirs se tournent vers l'IA pour des conseils de santé. Nous voulons savoir pourquoi.

Points clés

• Le Guardian recueille des témoignages de première main d'Américains noirs qui utilisent l'IA pour des conseils de santé ou spirituels.
• Les Noirs aux États-Unis ont fait face au racisme systémique documenté du système de santé depuis des générations.
• Les influenceurs de médias sociaux générés par IA, des personnages numériques créés entièrement par l'intelligence artificielle, font partie des sources auxquelles les gens se tournent.
• L'appel porte spécifiquement sur les influenceurs générés par IA qui se présentent comme noirs et abordent des sujets de santé ou spirituels.

La confiance prend longtemps à se construire et très peu de temps à se briser. Pour de nombreux Américains noirs, la confiance dans le système médical s'est effondrée il y a longtemps.

Maintenant, un petit nombre croissant de personnes comblent ce vide avec des outils d'IA : des chatbots, un type de logiciel auquel vous posez des questions et recevez des réponses écrites, et des influenceurs de médias sociaux générés par IA, des personnalités numériques qui ressemblent et sonnent comme des humains mais sont créées entièrement par l'intelligence artificielle et n'ont ni corps réel ni expérience vécue.

Le Guardian, qui a d'abord mis en évidence ce phénomène dans un appel aux lecteurs, recueille des histoires d'Américains noirs qui ont consulté ces outils pour des questions liées à la santé ou des conseils spirituels. Le média souhaite comprendre ce qui attire les gens vers les influenceurs noirs générés par IA en particulier, ce qu'ils demandent et ce qu'ils reçoivent.

Pourquoi cela importe-t-il pour les gens ordinaires ?

Pour les patients qui ont été rejetés, sous-traités ou mal diagnostiqués en raison de préjugés raciaux, une IA qui répond simplement à la question sans préjugé peut sembler être un soulagement. Cette réaction est compréhensible. Elle comporte aussi de vrais risques.

Les chatbots d'IA n'ont pas accès à votre historique médical. Ils peuvent produire des réponses qui semblent assurées mais qui sont fausses. Ils ne peuvent pas vous examiner, commander des tests ou remarquer que quelque chose ne va pas. Une infirmière qui a vu une plaie sait des choses qu'un chatbot ne peut pas.

En même temps, rejeter cette tendance manque le point essentiel. Si les gens contournent les médecins, la question qui vaut la peine d'être posée est pourquoi les médecins les ont perdus en premier lieu.

Que sont exactement les influenceurs générés par IA ?

Pensez à un compte de médias sociaux qui publie des conseils de santé, des dévotionnels ou des conseils de bien-être, présenté par une personne qui apparaît dans des photos et des vidéos mais qui a été créée par un logiciel, pas née. Ces comptes existent sur la plupart des grandes plateformes aujourd'hui. Certains divulguent que le personnage est artificiel ; beaucoup ne le font pas.

Quand ce personnage est visiblement noir et parle de sujets de santé, cela peut sembler familier culturellement et digne de confiance pour un public qui a historiquement été ignoré ou lésé par la médecine dominante. Les chercheurs et les journalistes ne font que commencer à cartographier l'ampleur de ce phénomène.

Que devrais-je faire si j'utilise l'IA pour des questions de santé ?

Utiliser un chatbot pour comprendre un diagnostic que vous venez de recevoir, ou pour trouver des questions pertinentes à poser à votre médecin, est raisonnable. S'en remettre à la place d'un médecin ne l'est pas.

Si vous vous méfiez de votre prestataire actuel, cette méfiance peut être bien fondée. Chercher un deuxième avis auprès d'un autre clinicien humain, ou trouver un centre de santé communautaire dont le personnel reflète votre profil, est une voie plus sûre qu'un influenceur IA dont vous ne pouvez pas vérifier le créateur et le financement.

Questions courantes

Est-il sûr de poser une question à une IA sur ma santé ?

Utiliser l'IA pour apprendre des informations générales ou préparer une visite chez le médecin est à faible risque. L'utiliser pour vous autodiagnostiquer ou décider de prendre un médicament ne l'est pas : les outils d'IA peuvent produire des réponses plausibles mais incorrectes, et ils n'ont aucune connaissance de votre historique personnel.

Comment savoir si un influenceur de santé sur les médias sociaux est généré par IA ?

Recherchez des divulgations dans la bio du compte ou les messages individuels. Les visages générés par IA ont souvent des traits parfaitement symétriques et des arrière-plans qui s'estompent étrangement. Si un compte publie constamment, ne vieillit jamais et ne mentionne jamais un lieu ou un événement de vie spécifique, traitez ses conseils avec une prudence supplémentaire.