Почему становится сложнее распознавать лица, созданные ИИ

Ключевые моменты

• Исследователи Австралийского национального университета сообщают, что лица, созданные ИИ, теперь вводят в заблуждение большинство людей.
• Обучение выявлению дефектов, таких как лишние пальцы, больше не является надежным, поскольку ИИ совершенствуется.
• Международная исследовательская группа разрабатывает тонкие методы обнаружения с многообещающими первоначальными результатами.

Раньше было легко распознать лица, созданные ИИ. Лишний палец, неправильное ухо или зубы неправильной формы их выдавали. Но теперь инструменты генерации изображений ИИ становятся настолько совершенными, что эти явные ошибки исчезают. Это делает намного сложнее отличить фотографию реального человека от компьютерной подделки.

Профессор Эми Давел из Австралийского национального университета (АНУ) возглавляет исследовательскую группу, стремящуюся помочь людям не отставать от развития технологий. Как первоначально сообщило издание ThreatVectr, её команда объединяет специалистов из Австралии, Канады и Великобритании и работает над новыми способами выявления цифровых подделок.

Почему это важно для обычного человека? Мошенники используют эти реалистичные лица ИИ для создания поддельных профилей в приложениях знакомств, на сайтах поиска работы и в социальных сетях. Убедительное лицо помогает им завоевать доверие быстрее. Это означает, что больше людей может передать свои деньги или личные данные, прежде чем они поймут, что их обманули.

Старый совет искать странные уши или считать пальцы больше не достаточен. Системы ИИ научились на своих ошибках и улучшились. Команда Давел сейчас сосредоточена на поиске более тонких признаков подделки. Они верят, что люди все еще могут научиться распознавать лица ИИ, но им нужно новое обучение.

Пока что ни один единственный способ не работает, и публикация чек-листа только помогла бы мошенникам улучшить свои подделки. На данный момент лучший совет — быть осторожным. Если вы получите неожиданное сообщение от незнакомца, особенно если он избегает видеозвонков или у него очень мало старых фотографий, будьте скептичны. Поиск по обратному изображению иногда может выявить подделку, показав, где еще эта фотография появляется в интернете.

Должны ли пользователи беспокоиться?

Да, но не паниковать. Технология создания поддельных лиц развивается быстрее, чем способность большинства людей их обнаруживать. Исследователи упорно работают над закрытием этого разрыва. Пока они этого не добьются, разумно подождать, прежде чем доверять фотографии незнакомца.

Текущие исследования Давел дают надежду. Благодаря новым методам обнаружения люди вскоре могут лучше научиться выявлять поддельные лица ИИ. Пока что здоровый скептицизм остается разумной защитой.