Наталья Касперская прочитала лекцию студентам МИЭМ ВШЭ

Президент ГК InfoWatch, председатель правления АРПП «Отечественный софт» Наталья Касперская прочитала лекцию «Кибербезопасность и ИИ» студентам 2-4 курсов факультета ИТ, слушателям специалитета по информационной безопасности и магистрантам.

В лекции глава InfoWatch подробно остановилась на основных трендах российских кибератак и их последствиях, на изменении общего ландшафта киберугроз по сравнению с прошлым годом и на распределении общего количества кибератак по разным странам.

Эксперт не обошла вниманием основные проблемы и разного рода риски использования генеративного ИИ. В лекции отдельно рассматривалось и использование злоумышленниками инструментов искусственного интеллекта для автоматизации кибератак.

«Стоит обратить внимание на особенности генеративного ИИ, они же — его проблемы. Во-первых, генеративный ИИ сам производит результат, то есть работает как “черный ящик”, при этом результат его работы непредсказуем даже для разработчика. Во-вторых, ИИ обучается на неизвестных данных. В-третьих, массово используемые модели размещены в облаке на зарубежных серверах, ну, и в-четвертых, нужно помнить, что весь отечественный генеративный ИИ — заимствованный. От статей и нейронных фреймворков до датасетов, весов и движков LLM. То есть, он вторичен. Еще одной проблемой генеративного ИИ является чрезмерная уверенность при ответе на вопросы пользователей, при этом ответы на один и тот же вопрос могут быть разными. Все это нужно учитывать».

По окончании лекции студенты задали много вопросов. Среди них были как общие, волнующие всех: «Вернемся ли мы к прошлой жизни после завершения всех геополитических событий?», так и узкоспециальные, например: «Насколько безопасно использовать ИИ-модель с открытыми весами в сравнении с закрытыми LLM?». Авторы лучших вопросов получили книгу «Цифровая гигиена» авторства Н.И Касперской и И.С. Ашманова.

После лекции прошел в студенческом кафе прошел гитарник (формат: «Гитара по кругу»).