Афроамериканцы обращаются к ИИ за медицинским советом. Мы хотим узнать почему.
Материал The Guardian выявил тихую тенденцию: некоторые афроамериканцы, измученные десятилетиями медицинского пренебрежения, обращаются к инструментам ИИ и созданным ИИ влиятельным лицам за медицинским и духовным руководством.
Ключевые моменты
- The Guardian собирает прямые свидетельства от афроамериканцев, которые используют ИИ для получения медицинского или духовного руководства.
- Чёрные люди в США на протяжении поколений сталкивались с документированным системным расизмом в здравоохранении.
- Созданные ИИ влиятельные лица в социальных сетях — цифровые personas, полностью созданные искусственным интеллектом — находятся среди источников, к которым люди обращаются.
- Этот материал сосредоточен на влиятельных лицах, созданных ИИ, которые представляют себя чёрными и обсуждают медицинские или духовные темы.
Доверие строится долго, а теряется быстро. Для многих афроамериканцев доверие к медицинской системе было утрачено давно.
Теперь небольшое, но растущее число людей заполняют этот пробел инструментами ИИ: чат-ботами, типом программного обеспечения, которому вы задаёте вопросы в текстовой форме и получаете письменные ответы, и созданными ИИ влиятельными лицами в социальных сетях — цифровыми личностями, которые выглядят и звучат как люди, но полностью созданы искусственным интеллектом и не имеют реального тела или жизненного опыта.
The Guardian, который первым выявил эту тенденцию через обращение к читателям, собирает истории афроамериканцев, обращавшихся к этим инструментам с вопросами о здоровье или духовным руководством. Издание хочет понять, что привлекает людей к созданным ИИ чёрным влиятельным лицам в частности, какие вопросы они задают и какие ответы получают.
Почему это важно для обычных людей?
Для пациентов, которых игнорировали, недолечивали или неправильно диагностировали из-за расовой предвзятости, ИИ, который просто отвечает на вопрос без предубеждения, может ощущаться облегчением. Такая реакция понятна. Она также несёт реальный риск.
ИИ чат-боты не имеют доступа к вашей медицинской истории. Они могут выдавать уверенно звучащие ошибочные ответы. Они не могут осмотреть вас, назначить анализы или заметить, что что-то выглядит неправильно. Медсестра, видевшая рану, знает то, чего не может знать чат-бот.
В то же время пренебречь этой тенденцией означает упустить суть. Если люди обходят врачей стороной, стоит задать вопрос: почему врачи их потеряли.
Что такое влиятельные лица, созданные ИИ?
Представьте аккаунт в социальных сетях, который публикует советы по здоровью, молитвы или рекомендации по оздоровлению, возглавляемый персоной, которая появляется на фото и видео, но была создана программным обеспечением, а не рождена. Такие аккаунты существуют на большинстве крупных платформ сегодня. Некоторые раскрывают, что персона искусственная; многие нет.
Когда эта персона явно чёрная и говорит о здоровье, это может ощущаться культурно знакомым и надёжным для аудитории, которую исторически игнорировали или которой причиняла вред традиционная медицина. Исследователи и журналисты только начинают выяснять, насколько это распространено.
Что делать, если вы используете ИИ для вопросов о здоровье?
Использование чат-бота для понимания только что полученного диагноза или для поиска вопросов, которые стоит задать врачу, разумно. Полагаться на него вместо врача нет.
Если вы не доверяете своему текущему врачу, это недоверие может быть обоснованным. Получение второго мнения у другого практикующего врача или поиск центра общественного здравоохранения с персоналом, отражающим вашу культуру, — более безопасный путь, чем влиятельное лицо ИИ, создателя и источники финансирования которого вы не можете проверить.
Часто задаваемые вопросы
Безопасно ли спрашивать ИИ о своём здоровье?
Использование ИИ для получения общей информации или подготовки к визиту к врачу имеет низкий риск. Использование его для самодиагностики или для решения вопроса о приёме лекарств нет: инструменты ИИ могут выдавать правдоподобные, но неверные ответы, и они не знают вашу личную историю.
Как узнать, создано ли влиятельное лицо в области здоровья в социальных сетях ИИ?
Ищите раскрытие информации в описании аккаунта или в отдельных постах. Созданные ИИ лица часто имеют идеально симметричные черты и фоны, которые странно размыты. Если аккаунт постоянно публикует контент, никогда не старится и никогда не ссылается на конкретное место или событие жизни, относитесь к его советам с особой осторожностью.
