Выступление на Финансовом конгрессе Банка России
В Санкт-Петербурге прошел Финансовый конгресс Банка России — он собрал игроков финансового рынка, представителей регулятора, бизнес и профессиональное сообщество.
Снова говорили об ИИ, на этот раз с точки зрения финансовой отрасли. Я выступила на сессии «ИИ в банковском риск-менеджменте: источник антихрупкости или новый класс уязвимостей». Модератор — Ольга Полякова, заместитель председателя Банка России. Поделюсь основными тезисами выступления.
Про подход к внедрению
ИИ сейчас на пике хайпа, а принимать решения на пике хайпа — неправильно. Технология переоценена ровно потому, что она модна. Но цена ошибки в банковском риск-менеджменте чрезвычайно высока. Как отличить задачу, которую ИИ закроет надежно, от той, где опираться на него опасно? Я бы подошла к этому вопросу не с точки зрения выбора конкретной области для применения ИИ, а с точки зрения подхода к самому процессу.
Первое — в финансовой организации нужен центр компетенций по ИИ, который агрегирует знания. Туда можно прийти, задать вопросы, обменяться опытом.
Второе — надо выявить задачи, которые можно делегировать ИИ. Мы в InfoWatch проанализировали их и выбрали три: анализ уязвимостей (это работает очень эффективно), помощь в тестировании (резко ускоряет) и отдельные блоки программирования. В банковском секторе задачи будут другими, но подход тот же: понять, что подходит, а на что стоит наложить запрет.
Про риски и контроль
Генеративный ИИ — вероятностная технология, он может допускать ошибки. Там, где они недопустимы — должен быть установлен строгий запрет на использование генеративных ИИ-моделей.
Эффективность ИИ не всегда столь высока, как нам говорят. Для оценки продуктивности ИИ-моделей нужно постоянно мониторить процесс: проводить регулярный анализ, отмечать контрольные точки по эффективности.
Экспериментировать с новыми технологиями нужно, но следует постоянно сверять результат — получаем ли мы то, что хотим?
Про теневой ИИ
Во многих организациях ИИ растет как бурьян — снизу. Люди в руководстве об этом даже не догадываются. Например, год назад мы сделали опрос разработчиков — выяснилось, что у нас используется около 30 разных ИИ-моделей.
Ситуация лучше поддается контролю, когда организация сама предоставляет сотрудникам доступ к ИИ-модели. При этом нельзя исключить ситуацию, что сотрудники не будут работать с этими ИИ-моделями. Контроль такого «теневого ИИ» — отдельная задача. В банковском секторе она критически важна.
Про регулирование ИИ и будущее в финсекторе
Я категорически против того, чтобы на государственном уровне вводить регулирование ИИ как технологии, потому что регулировать надо не технологию, а ее использование. Более того, ИИ очень быстро развивается, поэтому регулировать его как технологию сложно. Проблемы начинаются уже на этапе терминологии. Например, на днях в России приняли закон, устанавливающий ключевые правила работы ИИ-технологий в стране. Даже к определениям из этого закона есть большие вопросы. А разработка точной терминологии — очень длительный и основополагающий процесс.
Поэтому ИИ, как технологию, надо оставить в покое. Повторю — регулироваться должно влияние ИИ на людей. Например, на мой взгляд, стоит запретить создание законопроектов с помощью ИИ — специалисты все чаще замечают характерный ИИ-почерк, ошибки, которые совершает ИИ при законотворчестве и которые могут стоит простым людям очень дорого.
Создание регулятивной базы для ИИ — сложная задача. Часто ссылаются на Евросоюз, который ввел регулирование ИИ со строгими правилами, вступившими в силу в 2025 году. Якобы, из-за этой регуляторики ИИ в Европе не развивается. Но это не так — ИИ не развивается в ЕС очень давно, у них вообще большие проблемы с софтом, с разработкой и поддержкой. Этим регулированием они лишь прикрыли собственные пробелы.
Про стоимость и окупаемость ИИ
ИИ — это очень дорого в разработке, обучении и т.д. и технология до сих пор не окупается. Я не исключаю, что через какое-то время разработчики западных моделей либо поднимут цены в несколько раз, либо вообще закроют к ним доступ. Они и сейчас российских пользователей периодически ограничивают.
ИИ как технология дает большие возможности, но ждать от нее чудес неправильно. С ней нужно работать как с любой другой и подходить прагматично, постоянно контролировать работу ИИ-моделей, оценивать результаты, сверяя их с тем, что мы хотим получить. Если результат не отвечает запросу — надо менять подход. ИИ должен работать на человека, а не человек — на ИИ.