Кибербезопасность: LLM резко сокращают время для защиты

Как выяснили исследователи Anthropic, значительная часть проблем кибербезопасности происходит не из-за неизвестных уязвимостей, а в результате эксплуатации хорошо знакомых уязвимостей, к которым вовремя не были созданы патчи. Современные языковые модели радикально сокращают время, которое есть в распоряжении защитников: вследствие использования ИИ рабочий эксплойт теперь может появиться не через недели или дни, а через считанные часы после выхода обновления.

В последнее время компания Anthropic много писала о возможностях больших языковых моделей (LLM) с точки зрения кибербезопасности. В основном эксперты компании фокусировались на zero-days — так называемых уязвимостях «нулевого дня», которые еще не известны разработчикам программного обеспечения. В то же время значительная часть ущерба в настоящее время приходится на уязвимости N-day — те, что были выявлены, но исправлены только на некоторых устройствах. Исследователи безопасности бьют тревогу: злоумышленники часто используют так называемый «период задержки исправлений», чтобы взломать системы.

В некотором смысле, уязвимости N-days более опасны, чем уязвимости zero-days, потому что сам процесс исправления предоставляет «дорожную карту» для обнаружения ошибки. После публикации обновлений поставщиками ПО злоумышленники могут использовать метод «сравнения патчей»: сопоставление исходного кода или бинарного файла до внесения изменений с новым вариантом, чтобы точно определить, что изменилось, а затем провести обратное проектирование уязвимости, которую должен был устранить патч. Это означает, что создание рабочего эксплойта часто является лишь вопросом времени.

Долгое время создание патчей было достаточно неторопливой работой. Как правило, специалисты по защите информации имели в своем распоряжении много времени для подготовки обновления и его распространения, понимая, что злоумышленники не смогут быстро воспользоваться дырами в безопасности. Так, атака с использованием печально известного вируса WannaCry в 2017 году произошла почти через два месяца (59 дней) после выхода обновления MS17-010 для Windows. Создание публичного эксплойта для Citrix Bleed в 2023 году заняло у злоумышленников около двух недель. Согласно отчету компании Mandiant за 2020 год, в то время разработка эксплойтов для 16 из 25 уязвимостей потребовала месяц или более.

Разработка эксплойтов — не единственный этап в кампаниях, направленных на использование уязвимостей N-days (обнаружение цели, доставка эксплойта к цели и обход обнаружения также требуют времени и ресурсов), но именно он исторически был наиболее затруднен из-за нехватки специалистов по реверс-инжинирингу.

С появлением передовых LLM-моделей это узкое место во многом удалось устранить. Так, специалисты Anthropic, используя языковую модель Claude Mythos Preview, продемонстрировали, что для последних 18 обновлений безопасности для Firefox было создано 8 рабочих эксплойтов. А в 21 обновлении ядра Windows — где исходный код недоступен — с помощью LLM удалось создать 8 полных цепочек эксплойтов, которые позволяли повысить уровень прав пользователя, вплоть до полного контроля над системой.

Исследователи обнаружили, что даже общедоступные LLM могут создавать эксплойты, пусть и не с такой высокой производительностью, как Mythos Preview. Это говорит о том, что любой производитель ПО, разрабатывающий обновления, сегодня сталкивается с гораздо более серьезной угрозой, чем раньше. Риски будут расти по мере совершенствования больших языковых моделей, подчеркивают эксперты Anthropic. В ответ на это люди, защищающие ПО, могут стараться ускорить выпуск патчей.

Эксплуатация уязвимостей N-days исторически наносила наибольший вред системам, которые было сложно и долго обновлять. Промышленные системы управления (ICS), медицинские устройства и устройства «интернета вещей» часто работают в рамках фиксированных периодов технического обслуживания, с прошивкой, привязанной к производителю, или с гарантиями бесперебойной работы. По мере того, как стоимость использования любого конкретного патча снижается, эти устройства и системы становятся еще более уязвимыми. И даже системы, работающие с установленным, «ответственным» графиком выпуска патчей, теперь стали гораздо более легкими мишенями, чем раньше.

Производители ПО уже предпринимают шаги по сокращению разрывов в выпуске обновений. Например, Mozilla теперь «выкатывает» релизы Firefox не ежемесячно, как раньше, а еженедельно.

Весной 2026 года компания Anthropic объявила о проекте “Project Glasswing” —  масштабной инициативе в сфере кибербезопасности. Ее цель — защитить критически важное программное обеспечение планеты до того, как хакеры смогут использовать против него нейросети нового поколения. Проект работает на базе специализированной модели Claude Mythos.