Илья Башкиров про юридические риски использования ИИ в бизнес-процессах

В Красноярске прошло заседание Управляющего совета по развитию квалификаций «Искусственный интеллект: кадры, стандарты, реальный сектор». Организатор — Центр профориентации и развития квалификации PRO Карьеру. Юрист по информационной безопасности ГК InfoWatch Илья Башкиров выступил с докладом «Вопросы безопасности и регулирования применения ИИ» и рассказал про структуру юридических рисков при использовании ИИ в бизнес-процессах.

Илья Башкиров отметил, что отраслевое регулирование ИИ касается в основном безопасности систем и поддержки разработки отечественных решений. На практическое применение ИИ в большей степени влияет смежное законодательство — о защите прав потребителей, о персональных данных, интеллектуальной собственности и гражданско-правовой ответственности.

Спикер раскрыл ключевые требования к ИИ-системам. Так, в банковском секторе требуется, чтобы действия ИИ были прогнозируемы и предсказуемы, а ответственный специалист должен иметь возможность влиять на них. Организации финсектора обязаны проверять подрядчиков на предмет соблюдения стандартов безопасности ИИ. От сбоев должен быть защищен весь бизнес-процесс, в котором применяется ИИ, а не только сама технология. В госсекторе требования к применению ИИ регламентирует ФСТЭК России. Среди требований — защита от утечек, отравления данных, промпт-инъекций и чрезмерной автономности ИИ-модели. Хотя эти требования актуальны для финансового и государственного сектора, косвенно они влияют на весь рынок, мотивируя разработчиков ИИ соответствовать требованиям крупных игроков.

Отдельное внимание Илья Башкиров уделил вопросу применения ИИ в кадровых вопросах. Несмотря на то, что суды регулярно рассматривают споры, прямо или косвенно связанные с применением ИИ, направление практики не меняется уже несколько десятилетий: кадровые решения производится на усмотрение работодателя, но на объективных критериях и в соответствии с нормами ТК РФ.

В контексте применения ИИ в трудовой деятельности эксперт отметил, что передача конфиденциальных данных в открытые ИИ-модели является утечкой, и рекомендовал компаниям обучать персонал осознанной работе с нейросетями, внедрять технические ограничения и средства мониторинга.

«Сотрудники стремятся оптимизировать свои рабочие процессы и используют для этого ИИ-модели. По данным Ассоциации по защите деловой информации BISA, 46% респондентов из сферы информационной безопасности российских компаний сталкивались со случаями утечек через ИИ или знают о таких случаях. Кроме того, многие организации уже столкнулись с жалобами клиентов на получение ИИ-сгенерированных ответов, услуг или решений», — рассказал Илья Башкиров.