Новый план ЕС по кибербезопасности и искусственному интеллекту

Европейская комиссия опубликовала план действий по кибербезопасности и искусственному интеллекту. Кибербезопасность теперь будет тесно связана с разработкой собственного европейского frontier AI (передовой ИИ).

Для решения этой задачи:

• ЕС активизирует усилия по поддержке кибербезопасности критически важных секторов и малых и средних предприятий в подготовке к киберугрозам.
• Опираясь на весь спектр доступных ИИ, ЕС будет поддерживать их использование для повышения киберустойчивости и устранения наиболее критических уязвимостей.
• ЕС расширит свои возможности по разработке и внедрению решений на базе искусственного интеллекта, продолжая укреплять свой собственный потенциал в области передового ИИ.
• Это потребует срочных крупномасштабных инвестиций для создания собственных возможностей ЕС в области передового искусственного интеллекта.

В плане выделены 3 компонента.

Компонент 1

Обеспечение безопасности, доступности и возможности развертывания передового ИИ для европейской кибербезопасности

Закон об ИИ требует от поставщиков оценивать и снижать системные риски, в том числе связанные с неправомерным использованием ИИ в киберпространстве.

Доступ к передовому ИИ, с расширенными возможностями все чаще регулируется решениями конкретных поставщиков, зачастую неевропейских, при этом некоторые из них ограничивают доступ для управления рисками неправомерного использования с помощью программ структурированного доступа (например, поэтапного выпуска моделей). Это может помешать европейским организациям, включая силовые органы и операторов критически важной инфраструктуры, своевременно использовать возможности ИИ для обеспечения кибербезопасности.

Еврокомиссия в координации с ENISA разработает европейский план структурированного доступа к передовым возможностям ИИ в целях кибербезопасности в качестве руководящего документа.

План действий должен включать чрезвычайные меры на случай ограничения или отзыва доступа к ИИ, которые должны быть выполнены на уровне ЕС.

В документе отмечается, что доступ к безопасному передовому ИИ должен сопровождаться тестированием его возможностей для использования в операциях по сканированию уязвимостей, устранению неполадок и реагированию на инциденты.

Платформа безопасного тестирования также позволит протестировать развертывание передовых возможностей искусственного интеллекта в системах критической инфраструктуры, не подвергая риску реальную инфраструктуру.

Компонент 2

Подготовка киберэкосистемы ЕС к эпохе искусственного интеллекта

В документе говорится, что в качестве первоочередной задачи ЕС должен усилить свою поддержку критически важным секторам. Это будет включать в себя использование всего спектра моделей ИИ и, в частности, моделей с открытым исходным кодом, а также ускорение усилий по выявлению и устранению наиболее критических уязвимостей.

Для дальнейшего повышения готовности организации должны будут последовательно внедрять меры по усилению безопасности сетей и систем (в том числе, при необходимости, с использованием подходов «нулевого доверия»). Они также должны начать использовать уже имеющиеся возможности искусственного интеллекта, в том числе с помощью моделей с открытым исходным кодом, для выявления уязвимостей и улучшения обнаружения и предотвращения кибератак.

Первоочередная задача для киберпространства ЕС заключается в устранении существующих уязвимостей до того, как они смогут быть использованы хакерами. Поскольку искусственный интеллект сокращает время, необходимое злоумышленникам для использования уязвимостей, в ЕС должны в равной степени повысить свою способность анализировать, определять приоритеты, исправлять и внедрять исправления достаточно быстро, чтобы предотвратить кибератаки.

Программное обеспечение с открытым исходным кодом — представляет наибольший риск, благодаря высокому уровню проникновения в сектора критической инфраструктуры. В этих секторах 80% кодовых баз содержат уязвимости высокого или критического риска.

Компонент 3

Расширение европейских возможностей в области искусственного интеллекта

В условиях, когда как оборонительные, так и наступательные кибероперации все больше полагаются на передовые технологии, способность разрабатывать и внедрять решения в области кибербезопасности на базе искусственного интеллекта, становится стратегическим фактором киберустойчивости и суверенитета.

ЕС требуется объединить свою технологическую экосистему для удовлетворения наиболее насущных потребностей в области кибербезопасности, стимулировать инвестиции в разработку и внедрение европейских решений в сфере искусственного интеллекта.

В конце этого года будут запущены три флагманских проекта Horizon Europe, направленных на поддержку разработки, обучения и тестирования искусственного интеллекта для мониторинга, обнаружения, реагирования и самовосстановления цифровых процессов и систем в рамках защиты от кибератак, включая кибератаки с использованием искусственного интеллекта. А также разработка инструментов и технологий искусственного интеллекта для непрерывного мониторинга, обеспечения соответствия требованиям и автоматизированного исправления ошибок.

Уже были предприняты шаги для оказания поддержки в продвижении решений в области передового искусственного интеллекта, в их числе: 

• Был объявлен конкурс Frontier AI Grand Challenge, предоставивший доступ к вычислительным мощностям EuroHPC для разработки европейской передовой модели искусственного интеллекта с открытым исходным кодом.
• В рамках программы «Ресурсы для науки об искусственном интеллекте в Европе» (RAISE) финансируется проект сети лабораторий искусственного интеллекта для ускорения исследований в этой области.
• В рамках программы Horizon Europe финансируются мероприятия по распространению безопасного искусственного интеллекта.
• Еврокомиссия продолжит сотрудничество с Францией и Германией в рамках совместной инициативы («European Frontier AI Initiative»), направленной на исследования и инновации в области передового искусственного интеллекта, привлечение талантов и содействие получению дополнительных доходов.

Учитывая беспрецедентный объем ресурсов, необходимых для разработки передового ИИ, эти проекты требуют совместного подхода на уровне ЕС.

Развитие суверенного передового ИИ потребует инвестиций в сотни миллиардов евро, которые могут быть лишь частично покрыты за счет государственных финансов. Это требует срочного привлечения больших объемов частных инвестиций, особенно рискового капитала и акционерного капитала для разработки и масштабирования инновационных европейских решений.

Способность эффективно внедрять передовой ИИ будет зависеть от наличия квалифицированных специалистов, способных понимать и безопасно использовать модели ИИ с расширенными возможностями, а также управлять рисками, связанными с ИИ.

Академия ЕС по навыкам кибербезопасности, объединяющая представителей промышленности, поставщиков услуг по обучению и академические учреждения вокруг конкретных программ обучения кибербезопасности, должна обеспечить надлежащую основу для удовлетворения потребностей в квалифицированных кадрах.

Кроме того, ENISA обновит Европейскую систему повышения квалификации в области кибербезопасности, включив в нее повышение компетенций, связанных с искусственным интеллектом.

Источник: European Comission