Н. Касперская приняла участие в конференции по ИИ на «Армии-2021»

Президент ГК InfoWatch выступила модератором секции «Социогуманитарные основы формирования государственной политики с применением технологий искусственного интеллекта» (ИИ) на конференции «Гуманитарные и социокультурные аспекты развития и применения технологий искусственного интеллекта». Организаторами конференции, которая состоялась 22 августа 2021 года, выступили Министерство обороны РФ и Сколковский институт науки и технологий. Конференция стала значимой частью международного военно-технического форума «Армия-2021» в подмосковной Кубинке.

«В последнее время очень много говорят об искусственном интеллекте. У нас есть и национальная стратегия по развитию искусственного интеллекта, и отдельный федеральный проект «Искусственный интеллект» в рамках нацпрограммы «Цифровая экономика РФ». И вообще – искусственный интеллект сейчас везде. Но что вообще искусственный интеллект значит для человечества, люди не очень задумываются. При планировании этой секции мы с Андреем Михайловичем Ильницким, советником министра обороны РФ, естественно, хотели поднять и острые вопросы рисков использования искусственного интеллекта, и вопросы того, как вообще искусственный интеллект может изменить жизнь человечества в будущем. Потому что уже сейчас мы видим довольно много серьезных изменений», - считает президент ГК InfoWatch, председатель правления АРПП «Отечественный софт» Наталья Касперская.

В конференции приняли участие ведущие российские эксперты, работающие с технологиями искусственного интеллекта. Среди них начальник управления президента РФ по развитию ИКТ и инфраструктуры связи Татьяна Матвеева, научный руководитель ИПМ им. Келдыша Борис Четверушкин, президент МФТИ Николай Кудрявцев и другие.

Участники конференции отметили высокую актуальность поднятых тем, необходимость их продвижения на уровне внешней и внутренней политики России, с целью создания системы, обеспечивающей эффективное и безопасное развитие технологий искусственного интеллекта. По их мнению, широкое внедрение технологий искусственного интеллекта, способно обеспечить серьезные преимущества государству, корпорациям и обществу сразу во многих сферах.

В то же время, перевод экономических и социальных отношений в стране на новый технологический уклад несет в себе не только значительные возможности, но и серьезные риски, вытекающие из влияния высоких технологий на разные сферы жизни – социальную, гуманитарную, правовую. Участники конференции определили большую группу технологических, социальных, правовых, криминальных и иных рисков использования технологий искусственного интеллекта. Среди них отдельно выделяются риски использования иностранных платформ и ограничения, связанные с отсутствием единой государственной стратегии в ИИ, учитывающей национальную безопасность страны. Еще одна группа рисков связана с размытием границы «человек-машина» и способна подорвать саму основу человечества как вида.

Эти риски и угрозы усугубляются тем, что техническое и нормативно-правовое регулирование технологий ИИ в России и мире серьезно отстают от темпов развития и внедрения таких технологий в экономике, государственном управлении и обществе в целом. Главной задачей участники конференции считают формирование собственной российской идеологии и стратегии развития технологий ИИ в упреждающем темпе.

Кроме того, многие участники мероприятия отметила необходимость законодательного закрепления крайне важного при использовании систем ИИ принципа: конечное решение должно оставаться за человеком и приниматься с учетом этических и моральных норм российского общества.

По общему мнению участников конференции, главной задачей всех сторон, заинтересованных в эффективном и безопасном развитии российского сектора ИИ, должно стать определение четких и безопасных рамок дальнейшей цифровой трансформации страны с фокусом на защиту ее суверенитета, человеческого, научного и культурного потенциала по формуле «технологии для людей», а не наоборот.      

По итогам конференции были вынесены эти и другие рекомендации:

1. Строгая государственная экспертиза проектов, подразумевающих использование технологий ИИ.
2. Рост статуса высшего и среднего образования в целях технологического прорыва.
3. Обеспечение высокой информационно-психологической и ментальной устойчивости общества в условиях цифровизации.
4. Комплексное исследование об использовании возможностей ИИ-технологий против РФ (Минобороны РФ и другие заинтересованные ведомства).
5. Возможность создания координирующего органа по проблематике ИИ - для консолидации усилий госсектора, научно-экспертного и делового сообщества по защите цифрового суверенитета РФ.
6. Формирование межотраслевого пула российских экспертов в сфере ИИ при Министерстве Обороны - для его привлечения к решению актуальных проблем внедрения и регулирования ИИ в России и мире.