Международный модуль «Киберкурса» Банка России
Выступила в рамках Международного модуля образовательного проекта Банка России «КиберКурс» — практико-ориентированного обучения по информационной безопасности. Мероприятие собрало аудиторию из представителей центральных (национальных) банков иностранных государств, которым интересен российский опыт. Я рассказала про утечки данных в финансовой отрасли и новую угрозу — утечки через ИИ-модели.
Почему снизилось число утечек данных
Количество утечек данных в банках и финансовых организациях снижается с 2023 года. Это справедливо для всего мира. Но проблема утечек далеко не решена. Причин несколько.
Во-первых, СМИ стали меньше уделять внимания утечкам — есть другие, более резонансные темы. Во-вторых, многое было украдено в 2022–2023 годах, и сейчас злоумышленники обновляют старые базы, а не воруют новые. В-третьих, был закрыт ряд крупных хакерских форумов, которые поставляли информацию об утечках в СМИ и исследовательским центрам. Были и посадки хакеров.
Стоит отметить, что компании по-прежнему скрывают утечки — часть инцидентов становится известна через несколько лет или не становится вовсе. Кроме того, появился новый канал утечек, который пока мало изучен — через ИИ-модели.
ИИ-утечки — новая угроза
ИИ-модели стали очень распространены. Сотрудники загружают в них конфиденциальные данные — и эти данные остаются в модели. Соответственно, их можно вытащить.
Есть как минимум три способа кражи данных через ИИ-модели. Первый — прямой: человек сам загружает конфиденциальную информацию в публичную модель. Второй — промпт-инъекции: злоумышленник специально формулирует запрос так, чтобы вытащить данные из модели. Третий — даже разрозненные куски данных, попавшие в модель, можно собрать воедино и использовать.
Отдельная опасность — общие сессии, когда модель работает одновременно с несколькими пользователями из одного контура. Злоумышленник может раскрыть контекст и получить доступ к конфиденциальной информации других пользователей или целой организации.
Люди привыкают к использованию ИИ-моделей, начинают больше доверять им и «очеловечивать», общаются как с другом. При том, что человек, знающий про традиционные каналы утечек, может совершенно не задумываться о том, что через ИИ также можно отдать почти все свои секреты или секреты компании. Это новый, малоисследованный канал, который несет огромные риски.
Как защититься от ИИ-утечек
Чтобы защищаться от утечек через ИИ надо понимать основное — защита информации начинается не с установки специализированного ПО, а с постановки задачи на защиту и с построения модели угроз. Технические средства — последний этап, а не первый.
Что нужно делать компаниям:
- Административные меры. Выработать правила работы с ИИ. Запретить использование публичных ИИ-сервисов для работы с конфиденциальными данными.
- Технические средства защиты. Внедрять DLP-системы с возможностью перехвата сценариев ИИ-угроз, с постоянно обновляемым списком доверенных ИИ-ресурсов.
- Анонимизация данных. Там, где возможно, обезличивать персональные и другие секретные данные перед отправкой в модель.
- Политика контроля доступа. Разработать систему прав для человека и ИИ-агентов. Запретить или жестко ограничить использование ИИ для работы с персональными данными и коммерческой тайной.
- Культура безопасности. Обучать сотрудников правилам безопасной работы с ИИ-чатами и агентами.