Эксперт InfoWatch выступил с докладом в Академии Криптографии РФ

Зайнулла Жумаев, старший разработчик-исследователь ГК InfoWatch, представил свой доклад под названием «Рациональное применение генеративного ИИ в DLP-системе». В нём он не только в общих чертах описал традиционную парадигму работы офицеров информационной безопасности, но и отметил риски и проблемы при использовании ИИ в DLP-системах. Например, галлюцинации, которыми в особенности страдают развёрнутые в закрытом контуре модели, довольно высокую ресурсоемкость (GPU) и низкую скорость обработки по сравнению с классическими алгоритмами, из-за чего масштабировать GenAI на трафик большой компании становится просто невыгодно.

Исходя из этих ограничений Зайнулла привёл несколько успешно реализованных сценариев использования генеративного ИИ. Первый — для автоматического составления семантического ядра тематических словарей, что позволяет быстро и точно классифицировать массивы текстов. Второй — использование ИИ-агента в качестве ассистента, преобразующего запрос офицера безопасности на естественном языке в DSL-запрос (от англ. domain-specific language, DSL — «язык, специфический для предметной области», в данном случае SQL-подобный язык) к DLP-ядру.

Из доклада следуют логичные выводы: применение ИИ в DLP-системе целесообразно для ускорения работу офицера безопасности, а не в качестве замены классических алгоритмов анализа событий; результаты работы ИИ должны всегда проходить обязательный этап верификации и доработки полученных результатов с помощью классических алгоритмов. В таком случае скорость работы большой языковой модели становится не таким важным критерием (ведь не нужна потоковая обработка событий), а стоимость владения DLP-системой снижается благодаря автоматизации ручного труда экспертов.