Наталья Касперская о рисках применения ИИ в социальной сфере

Президент ГК InfoWatch Наталья Касперская приняла участие в конференции Института системного программирования им. В. П. Иванникова РАН (ИСП РАН), в сессии «Перспективы информационной безопасности в искусственном интеллекте».

Дискуссионную сессию организовал консорциум исследований безопасности технологий ИИ. Консорциум создан при поддержке Минцифры России по инициативе АНО «Национальный технологический центр цифровой криптографии», Академии криптографии РФ и Института системного программирования им. В. П. Иванникова РАН. В его составе — вузы, госорганы и ведущие компании ИБ‑сферы, включая ГК InfoWatch. Цель работы — обеспечить безопасное развитие ИИ-технологий через взаимодействие государства, бизнеса и науки.

Наталья Касперская выступила с докладом «Предложения по регулированию ИИ в социальной сфере» и рассказала о рисках применения генеративного ИИ для развития общества. Президент ГК InfoWatch подчеркнула, что вопрос создания доверенной технологии генеративного ИИ — является сложным, поскольку эта технология в принципе не является доверенной: генеративный ИИ работает как «черный ящик» и результат его работы непредсказуем даже для создателей.

В выступлении Наталья Касперская обратила внимание на тот факт, что на родине ИИ — в США — «пузырь» ИИ уже начал сдуваться. Аналитическая компания Gartner в этом году написала, что «пик хайпа» генеративного ИИ пройден.

Спикер призвала в кратчайшие сроки разработать и внедрить регуляторную базу, которая позволит минимизировать или ликвидировать связанные с генеративным ИИ риски. Среди них — снижение собственных навыков и критического мышления у людей, использующих ИИ, продвижение антироссийской повестки и нарративов, а также риски дискриминации российских граждан.

По убеждению Натальи Касперской, необходимы следующие ограничения применения ИИ в сферах, которые напрямую касаются человека и его жизни:

• в образовании — запрет на любую автоматизацию обучения и выработку индивидуальных образовательных траекторий с помощью ИИ;
• в госуправлении — запрет автоматических штрафов и любых социальных рейтингов;
• в законотворчестве — запрет на написание НПА и законопроектов, а также на их автоматическую проверку с помощью ИИ;
• в судопроизводстве — запрет на генерацию судебных решений и исков с помощью ИИ.

«Часто говорят, что искусственный интеллект — прорывная технология. Но на практике искусственный интеллект — это угроза экзистенциональная, то есть такая, которая угрожает жизни на Земле в принципе. И если мы этого не поймем и впустим этого монстра без ограничений в собственную жизнь, то вполне возможно, что никакой жизни у нас уже не будет», — подытожила Наталья Касперская.