Искусственный интеллект и безопасность информации: обзор отчета

Согласно новому отчету Thales Group (транснациональная корпорация, занимается разработкой решений и систем для авиакосмического, оборонного, морского сектора), на сегодняшний день безопасность информации для компаний вышла на первый план, поскольку успехи в области искусственного интеллекта все больше зависят от контроля доступа к конфиденциальным данным организации.

Организации сталкиваются с быстрыми изменениями, связанными с внедрением ИИ на предприятиях, а добавление агентов ИИ еще больше усложняет ситуацию. Более трети организаций (34%) уже используют встроенных агентов, а большинство (73%) планируют начать их использовать в течение года. Скорость и объем использования данных резко выросли с появлением агентных приложений, и предприятия испытывают трудности с обеспечением безопасности информации.

Исследование основано на опросе более 3100 респондентов из 20 стран.

Количество организаций, выделяющих бюджет на безопасность специально для ИИ, год от года растет на 50%.

По мере того, как агентные приложения (на базе ИИ) получают доступ к все большим объемам данных, организациям необходимо улучшать методы обеспечения безопасности информации, чтобы ИИ не стал новой внутренней угрозой.

С появлением технологий ИИ приоритеты в кибербезопасности меняются

• Расходы на обеспечение безопасности ИИ растут. У 30% организаций выделен бюджет на обеспечение безопасности ИИ (ранее показатель составлял 20%), но более половины (53%) по-прежнему финансируют безопасность ИИ за счет существующих бюджетов на безопасность.
• Скорость изменений в экосистемах ИИ является одним из главных факторов, влияющих на безопасность ИИ: 70% опрошенных называют темпы изменений главным риском для безопасности ИИ.
• 61% сообщили, что их ИИ-приложения стали объектом атак, а основной целью были конфиденциальные данные.
• 48% понесли репутационный ущерб в результате дезинформации, сгенерированной искусственным интеллектом.
• 59% компаний столкнулись с атаками с применением дипфейков.
• 57% респондентов сообщили о распространении сгенерированной ИИ дезинформации, а дипфейки стали второй по величине причиной роста числа атак.
• 52% считают управление идентификацией и доступом наиболее актуальной задачей в области безопасности, поскольку злоумышленники часто используют уязвимости в учетных данных.
• В облаках зашифровано только около половины (47%) конфиденциальных данных.
• 50% опрошенных считают управление доступом основной проблемой в обеспечении безопасности приложений.

Сложность систем безопасности

• У 77% организаций есть пять или больше инструментов обеспечения безопасности.
• В среднем у каждой организации 7 инструментов защиты и мониторинга данных.
• Только 39% уверены в том, что понимают используемые инструменты безопасности.
• В 28% случаев человеческая ошибка становится причиной нарушения безопасности информации, и 63% – атаки со стороны других государств.
• У организаций, которые не прошли аудит безопасности, выше риск появления нарушений. Среди них только 6% сообщили об отсутствии нарушений, против 30% среди тех, что прошли проверку.
• Облачные ресурсы вошли в тройку главных целей для кибератак.
• Кража учетных данных – самый распространенный метод атаки на облачную инфраструктуру.
• 67% опрошенных отметили рост случаев кражи учетных данных и коммерческой тайны.

Рассмотрим подробнее некоторые результаты опроса.

Основные проблемы безопасности ИИ

Быстрые изменения в экосистеме ИИ являются главной проблемой обеспечения их безопасности: 70% респондентов отнесли их к трем основным источникам нарушений. Среди атак, реализованных на базе ИИ и LLM, респонденты сообщили о наибольшем росте количества тех, которые направлены на раскрытие конфиденциальных данных.

Расходы на безопасность ИИ

Расходы на обеспечение безопасности ИИ занимают второе место по приоритету и уступают только безопасности облачных вычислений. Каждый четвертый респондент отнес безопасность ИИ к трем основным категориям расходов.

Основные цели атак

Облачные ресурсы остаются основными целями, при это наибольшая доля респондентов назвала облачное хранилище (35%), приложения SaaS (34%) и инфраструктуру управления облаком (32%) в числе трех главных целей кибератак. Генерируемая ИИ дезинформация, включая дипфейки, занимает второе место среди типов атак. Учитывая большие объемы данных, используемых ИИ, и возросшую их доступность, связанную с агентами ИИ, шифрование является обязательной мерой обеспечения безопасности. В итоге, по мнению специалистов, ИИ представляет собой новую внутреннюю угрозу. Учетные данные пользователей поднялись с восьмого места на пятое, и 21% респондентов назвали их одной из трех главных целей. Данные об идентификации поднялись с десятого на шестое место.

Взаимосвязь аудита безопасности с нарушениями

Более половины опрошенных указали на отсутствие утечек информации: 54% сообщили об отсутствии утечек в облачных сервисах, а 57% — об отсутствии утечек из корпоративных систем.

58% организаций сообщили о прохождении проверки на соответствие требованиям безопасности. Как и в предыдущие годы, организации, не прошедшие аудит, гораздо чаще сообщают об утечках данных. Среди организаций, не прошедших проверку, только 6% сообщили об отсутствии утечек информации, тогда как среди организаций, прошедших все проверки, этот показатель возрастает до 30%.

Опрос показал различия в осведомленности о нарушениях в зависимости от должности респондента. Руководители высшего звена реже выявляют нарушения безопасности, чем сотрудники более «практических» должностей. Более трех четвертей (78%) генеральных директоров, президентов и управляющих директоров сообщили, что в их организации не было нарушений, в то время как в целом по опросу (включая ответы специалистов всех уровней) этот показатель снижается до 58%.

Самые распространенные причины нарушений

Человеческий фактор остается основной причиной нарушений (28%), значительно опережая две следующие наиболее распространенные причины — использование уязвимостей.

Основные угрозы

Хотя главной проблемой безопасности являются атаки со стороны других государств (63% респондентов назвали это одной из основных проблем), человеческая ошибка остается основной причиной нарушений. Исследователи считают, что снижение сложности системы уменьшает вероятность человеческих ошибок. А для достижения успеха консолидация инструментов должна не только упрощать работу, но и поддерживать масштабирование для охвата современной корпоративной инфраструктуры.

Источник: Thales Cybersecurity. Data Threat Report 2026 (www.thalesgroup.com)