Сегодня прошло пленарное заседание конгресса по искусственному интеллекту, которое организовало Министерство Обороны в рамках форума «Армия-2021». На заседании председательствовал вице-премьер Дмитрий Николаевич Чернышенко. Участниками стали министр науки и высшего образования Валерий Фальков, министр здравоохранения Михаил Мурашко, замминистра промышленности и торговли Василий Шпак, замминистра обороны Руслан Цаликов, заместитель секретаря Совета Безопасности РФ Олег Храмов и президент РАН Александр Сергеев.
Дмитрий Николаевич сделал системный доклад на тему того, что делается по искусственному интеллекту в нашей стране. К моему сожалению, в его докладе не прозвучало слово «безопасность», что мне, как «безопаснику» обидно. Вопрос про безопасность применения технологий искусственного интеллекта я задала заместителю Секретаря Совбеза РФ Олегу Храмову, который ответил, что Совет безопасности не занимается нормативной деятельностью, но занимается доктринальной. И вот как раз изменение доктрин, в частности, планируется по результатам этого конгресса. Я надеюсь, что мы сумеем внести свою лепту.
При этом, надо сказать, что многие выступающие отмечали проблему «черного ящика», т.е. невозможность понять, по какому признаку система на базе ИИ приняла то или иное решение. Первым про «черный ящик ИИ» заговорил Храмов, потом президент РАН Сергеев сказал, что это большая проблема, над которой наука сейчас бьется. И, наконец, о важности той же проблемы сказал министр здравоохранения, поскольку это касается жизни и здоровья людей.
Если у человечества получится сделать этот «черный ящик» прозрачным, то это будут системы, которые можно будет спокойно использовать. Пока эта проблема не решена, мы должны внедрять системы искусственного интеллекта с осторожностью.