77% сотрудников делятся конфиденциальной информацией с ChatGPT

Развитие ИИ принесло новые риски утечек конфиденциальной информации. Согласно исследованию, конфиденциальную информацию через ChatGPT и другие инструменты генеративного ИИ передают 77% сотрудников.

Цифровые рабочие места переживают радикальные изменения, поскольку такие инструменты GenAI, как ChatGPT, а также корпоративные SaaS-решения становятся ключевыми средствами повышения производительности. Однако, этот сдвиг привнес новые, ранее неизученные риски.

Последний отчет компании LayerX о телеметрии, основанный на просмотре данных с корпоративных веб-страниц, отражает поразительную тенденцию: инструменты генеративного ИИ обогнали классические SaaS-приложения в качестве основного канала утечки из организаций конфиденциальных корпоративных данных.

Почти половина сотрудников в исследуемых корпоративных средах регулярно взаимодействуют с платформами GenAI. Особую тревогу исследователей вызвал тот факт, что 40% загружаемых файлов содержат защищенную законом информацию, такую как персональные данные и платежные сведения (PCI).

Несмотря на то, что в корпоративных политиках информационной безопасности особый акцент сделан на контроле файлов, нарушители активно передают данные вне файлового формата, быстро копируя и вставляя конфиденциальную информацию в чаты на базе ИИ и рабочие среды в облачных сервисах (SaaS).

Телеметрическое исследование показало, что 77% сотрудников вставляют в поля ввода платформ генеративного ИИ такие конфиденциальные данные, как контакты клиентов, финансовые показатели и фрагменты исходного кода.

При этом подавляющее большинство подобных действий — примерно 82% — происходят через учетные записи и сеансы устройств, не зарегистрированных в системах управления корпоративными удостоверениями, что фактически делает эти данные невидимыми для систем аудита безопасности и соответствия требованиям.

При наличии традиционной DLP-системы организация может отслеживать передачу файлов и вложений. Но такие системы не могут отследить обмен данными вне файлов, что оставляет минимум артефактов для расследований.

Риски усугубляются в ходе быстрого обмена контентом между окнами браузера, удаленными рабочими столами и мобильными приложениями. Это находится вне зоны действия устаревших средств защиты конечных точек.

Технологии SSO у и рабочие чаты не безопаснее

Многие компании слишком рассчитывают на технологии единого входа (SSO), полагая, что корпоративные учетные данные обеспечивают безопасность.

Авторы отчета LayerX установили, что даже санкционированные входы в CRM- и ERP-платформы подвергаются риску из-за широкого использования методов доступа, не использующих SSO.

С находящихся без контроля учетных записей нарушители часто получают доступ к критически важным платформам, размывая границу между легитимной и несанкционированной активностью.

Приложения для рабочих чатов и обмена мгновенными сообщениями, которые становятся все более важными для совместной работы, создают дополнительный риск для компаний. Выяснилось, что 87% наблюдаемой активности в чатах проходит через учетные записи, находящиеся вне контроля предприятия.

Данные телеметрии показывают, что 62% пользователей вставляли конфиденциальные данные, включая информацию о клиентах или бизнес-планы, непосредственно в чаты под неуправляемыми учетными записями, минуя все корпоративные системы регистрации и мониторинга.

Переосмысление DLP: GenAI и SaaS требуют новых средств контроля

Новая матрица угроз, сложившаяся на фоне развития ИИ, требует радикального переосмысления стратегий корпоративной безопасности. Акцент должен быть смещен с традиционных файлово-ориентированных DLP на динамические средства контроля, которые отслеживают потоки данных в браузере, контролируют операции копирования/вставки и активности в неуправляемых сеансах SaaS.

Сбор телеметрических данных в режиме реального времени и поведенческий анализ становятся критически важными средствами для обнаружения и предотвращения попыток несанкционированной передачи данных, которые не поддаются проверке на уровне файлов.

Адаптивные политики доступа должны блокировать рискованные операции вставки данных или использования их в чатах. Предприятиям следует расширить процесс мониторинга на неуправляемое использование GenAI и SaaS.

Только эти меры могут устранить новые «слепые зоны», вызванные взаимодействием без использования файлов и внешними идентификаторами, защищая компании от случайных и преднамеренных утечек данных в эпоху оптимизации производительности на основе ИИ.

Источник: Cyber Press