Мошенничество с персональными данными: исследование рынка

В новом отчете о рынке обнаружения дипфейков от Biometric Update и Goode Intelligence рассмотрено одно из самых разрушительных явлений в цифровом мире, которое ведет к мошенничеству с персональными данными и атакам на биометрические системы.

Дипфейки подорвали доверие к цифровым медиа и цифровой идентификации. Их создание стало проще и дешевле, на некоторых ресурсах доступ к ним стал бесплатным, и проблема достигла критического уровня. Правительство Соединенного Королевства прогнозирует к концу года количество дипфейков в 8 млн, по сравнению с 500 тыс. два года назад.

В отчете исследователи дают объяснение сути дипфейков и их обнаружения, описывают масштабы проблемы, типы атак, способы защиты от них, существующие стандарты, а также дают оценку рынка технологий по их обнаружению.

Примеры мошенничества

Мошенничество с персональными данными становится все более серьезной проблемой для сферы финансовых услуг.

Сюда входят все виды финансового мошенничества, когда преступники используют дипфейки, используя синтетические видео, аудио или изображения, которые выглядят как изображения реальных людей, и открывают, например, новые банковские счета.

Так, дипфейки привели к многомиллионным убыткам: недавно нашумел случай атаки на организацию в Гонконге, где хакеры с помощью поддельной личности руководителя заставили сотрудника перевести $18,5 млн на мошеннические банковские счета.

Исследование компании по автоматизации финансовых процессов Medius показало, что 87% финансовых специалистов признали, что осуществили бы платеж, если бы с ними связался по видео финансовый или генеральный директор, а 53% уже сталкивались с такими попытками мошеннических атак.

Компания Regula, разрабатывающая продукты для верификации личности, сообщила, что банки в среднем терпят ущерб около $600 000 за каждый инцидент, связанный с подделкой лица или голоса.

В мае ФБР опубликовало предупреждение после расследования кампании, направленной против бывших высокопоставленных чиновников, в рамках которой использовались синтезированные искусственным интеллектом голосовые сообщения.

Национальная служба здравоохранения Соединенного Королевства сообщила, что из-за мошенничества с персональными данными потеряла за шесть лет $9,3 млрд.

Существуют примеры и атак на работодателей, когда искусственные личности создавались для прохождения онлайн-собеседований для устройства на удаленную работу.

Обнаружение дипфейков

Задача по обнаружению требует «использования ИИ для борьбы с ИИ» путем применения нейросетей и алгоритмов глубокого обучения для выделения и анализа особенностей и закономерностей в биометрических данных.

Эффективные инструменты с помощью искусственного интеллекта могут обнаруживать визуальные артефакты, выражения лица или движения, а также биологические и биометрические артефакты, такие как нарушение сердечного ритма, кровотока или реакцию кожи на изменение освещения.

В отчете выделено четыре ключевых фактора для развития технологий по обнаружению дипфейков:

1. Предотвращение мошенничества, поскольку эти технологии помогают определить, реален ли человек.
2. Повышение безопасности цифровых взаимодействий и транзакций.
3. Обеспечение удаленной идентификации и аутентификации биометрическими системами, способными противостоять новейшим технологиям дипфейков.
4. Обеспечение соответствия потенциальному законодательству, поскольку компании критических секторов, вероятно, будут обязаны внедрять решения по обнаружению дипфейков. Например, закон ЕС об искусственном интеллекте содержит положения о маркировке контента, созданного ИИ.

Авторы исследования рассматривают отрасли, которые на текущий момент наиболее активно внедряют технологии по обнаружению дипфейков, их выделили семь:

1. Финансовые услуги.
2. Государственный сектор.
3. Промышленность.
4. Азартные игры.
5. Электронная коммерция.
6. Здравоохранение.
7. Транспорт (пограничный контроль).

Эксперты из Goode Intelligence (GI) прогнозируют, что к 2027 году количество проверок на обнаружение фальшивого голоса превысит 4,85 млрд в год, фальшивого лица — на 5,05 млрд в год, а общий доход от технологий обнаружения превысит $4,95 млрд.