Наталья Касперская выступила на Финансовом конгрессе Банка России

Президент ГК InfoWatch Наталья Касперская приняла участие в Финансовом конгрессе Банка России, который прошел в Санкт-Петербурге. Она выступила на сессии «ИИ в банковском риск-менеджменте: источник антихрупкости или новый класс уязвимостей». Модератором дискуссии стала Ольга Полякова, заместитель председателя Банка России.  Мероприятие собрало ключевых игроков финансового рынка, представителей регулятора, бизнеса и профессионального сообщества.

По мнению эксперта, в финансовых и банковских организациях, занятых внедрением технологий ИИ, должен быть создан центр компетенций, агрегирующий знания о них. Необходимо выявить задачи, которые можно делегировать ИИ, определить те области, где использование ИИ недопустимо. Запрет связан с самой природой технологии генеративного ИИ: поскольку это вероятностная технология, ее использование в затрагивающих людей сферах недопустимо. Финансовые организации оперируют как раз в таких областях. 

При этом подходить к внедрению ИИ нужно прагматично, как к любой технологии: контролировать, постоянно оценивать результаты и корректировать подход при необходимости. По словам Натальи Касперской, эффективность применения ИИ зачастую не столь высока, как рассказывают апологеты внедрения.

Отдельное внимание спикер уделила проблеме «теневого ИИ»: сотрудники могут использовать десятки разных моделей, о чем руководство может даже не знать. Когда организация предоставляет доступ к ИИ самостоятельно, ситуация лучше поддается контролю, но гарантировать, что сотрудники не будут использовать свои модели, невозможно. Контроль «теневого ИИ» в банковском секторе критически важен.

«ИИ — дорогая история, она до сих пор не окупается. Я не исключаю, что через какое-то время разработчики западных моделей либо поднимут цены, либо вообще закроют доступ к ним. Наших разработчиков уже сейчас ограничивают в доступе», — заметила Наталья Касперская.