Americanos Negros Estão a Recorrer à IA para Aconselhamento de Saúde. Queremos Saber Porquê.

Pontos-chave

• The Guardian está a recolher testemunhos diretos de americanos negros que usam IA para orientação sobre saúde ou espiritualidade.
• Pessoas negras nos EUA enfrentaram racismo sistémico e documentado no sistema de saúde durante gerações.
• Influenciadores de redes sociais gerados por IA, personas digitais criadas inteiramente por inteligência artificial, encontram-se entre as fontes a que as pessoas recorrem.
• O apelo centra-se especificamente em influenciadores gerados por IA que se apresentam como negros e abordam tópicos de saúde ou espiritualidade.

A confiança leva muito tempo a construir-se e muito pouco tempo a quebrar-se. Para muitos americanos negros, a confiança no sistema médico quebrou-se há muito tempo.

Agora, um pequeno mas crescente número de pessoas está a preencher essa lacuna com ferramentas de IA: chatbots, um tipo de software a que escreve perguntas e recebe respostas escritas, e influenciadores de redes sociais gerados por IA, personalidades digitais que parecem e soam humanas mas são criadas inteiramente por inteligência artificial e não têm corpo real nem experiência vivida.

The Guardian, que primeiro identificou este padrão num apelo a leitores, está a recolher histórias de americanos negros que consultaram estas ferramentas para questões relacionadas com saúde ou orientação espiritual. O meio de comunicação quer compreender o que atrai as pessoas para influenciadores negros gerados por IA em particular, o que perguntam e o que recebem em resposta.

Por que motivo isto é importante para as pessoas comuns?

Para pacientes que foram ignorados, subtratados ou mal diagnosticados devido a preconceito racial, uma IA que simplesmente responde à pergunta sem preconceito pode parecer um alívio. Essa reação é compreensível. Também comporta riscos reais.

Os chatbots de IA não têm acesso ao seu historial médico. Podem produzir respostas que soam confiantes mas que estão erradas. Não conseguem examiná-lo, pedir testes ou notar que algo não está bem. Uma enfermeira que viu uma ferida sabe coisas que um chatbot não consegue saber.

Ao mesmo tempo, ignorar a tendência perde-se de vista o essencial. Se as pessoas estão a contornar médicos, a pergunta que vale a pena fazer é por que razão os médicos as perderam em primeiro lugar.

O que são influenciadores gerados por IA, exatamente?

Pense numa conta de rede social que publica dicas de saúde, devocionais ou conselhos de bem-estar, apresentada por uma pessoa que aparece em fotos e vídeos mas foi construída por software, não nascida. Estas contas existem na maioria das plataformas principais hoje. Algumas indicam que a persona é artificial; muitas não o fazem.

Quando essa persona é visivelmente negra e aborda tópicos de saúde, pode parecer culturalmente familiar e confiável para um público que historicamente foi ignorado ou prejudicado pela medicina convencional. Pesquisadores e jornalistas estão apenas a começar a mapear a extensão deste fenómeno.

O que deve fazer se usar IA para questões de saúde?

Usar um chatbot para compreender um diagnóstico que acaba de receber, ou para encontrar perguntas que valha a pena fazer ao seu médico, é razoável. Depender de um em vez de um médico não é.

Se desconfia do seu médico atual, essa desconfiança pode estar bem fundada. Procurar uma segunda opinião junto de outro profissional de saúde humano, ou encontrar um centro de saúde comunitária com pessoal que reflita o seu historial, é um caminho mais seguro do que um influenciador de IA cujo criador e financiamento não consegue verificar.

Perguntas comuns

É seguro perguntar a uma IA sobre a minha saúde?

Usar IA para aprender informações gerais ou preparar-se para uma consulta médica é de baixo risco. Usá-la para diagnosticar-se a si próprio ou decidir se deve tomar medicação não é: as ferramentas de IA podem produzir respostas plausíveis mas incorretas, e não têm conhecimento do seu historial pessoal.

Como posso saber se um influenciador de saúde nas redes sociais é gerado por IA?

Procure indicações na bio da conta ou em posts individuais. Rostos gerados por IA frequentemente têm características perfeitamente simétricas e fundos que se desfocam de forma estranha. Se uma conta publica constantemente, nunca envelhece e nunca faz referência a um local específico ou evento da vida, trate o seu conselho com precaução extra.