ИИ в образовании недопустим
Снова была на Общественном телевидении России (ОТР), говорила в прямом эфире программы «ОТРажение» о том, что волнует каждого родителя без исключения — о недопустимости повального использования искусственного интеллекта в образовании. Ниже — самые интересные моменты эфира.
ОТР: Почему образование сейчас, на этапе нового технологического перехода, вышло на самую первую линию?
Вокруг стало много технологий, соответственно, эти технологии кто-то должен делать. Кто-то должен в них разбираться, их программировать. Для этого нужны люди, а людей нужно образовывать. Но у нас есть две взаимоисключающие тенденции: одна — мы должны выращивать очень умных людей, другая — есть всякие показатели эффективности по цифровизации в стране, по внедрению в школах всякого-разного, по тому, что мы должны добиться какого-то процента по ЕГЭ, что приводит к выхолащиванию образования. Но при помощи того же ЕГЭ ты не вырастишь очень умных. Общественность должна озаботиться этим разрывом, это важно.
ОТР: В конце мая Фальков — министр науки и высшего образования РФ, сказал, что дипломные работы уходят в прошлое, потому что огромное количество дипломников используют системы ИИ для «написания» дипломных работ. Если это результат высшего образования, то я не знаю, что будет дальше! Из-за этого мы отказываемся от дипломных работ, которые всегда были итоговой аттестацией новоиспеченных специалистов!
Нет, от дипломов пока не отказываются. Но, согласно опросам, например, Министерства науки и высшего образования, порядка 87% дипломников пишут работы, используя ИИ. А остальные просто не признаются, мне кажется. Это проблема, потому что мы не понимаем, кого мы выращиваем и выпускаем. А работодатели не понимают, кого им принимать на работу. Знает ли что-то человек или только с помощью ИИ может ответить. Фальков прав в том, что нужно искать другие способы контроля и оценки знаний. Например, это могут быть работы вместе с потенциальным работодателем, когда выполняется задание по его требованиям, там ИИ не обойдешься. Если это задача на программирование, ИИ использовать можно, но нужно запрограммировать, т.е. задачу нужно решить. Нужны более практические формы проверки знаний. Но над этим нужно думать.
В гуманитарной сфере, конечно, катастрофа — все работы по гуманитарным дисциплинам пишутся с помощью ИИ, причем преподаватели зачастую не могут идентифицировать, где ИИ применялся, а где нет.
Есть еще более серьезный вопрос — как научить детей думать? Ведь он не решается просто алгоритмикой! Советской образование было нацелено на то, чтобы учить думать, у нас потому так много выпускалось «технарей» и много было талантов. А сейчас не учат думать. И этот разрыв между тем, что нам постоянно нужны очень умные кадры и тем, что вся методика обучения сводится к тестам, то есть не выстроена так, чтобы поставлять умных людей — постоянно увеличивается.
ОТР: В Японии еще в девяностые из-за тотальной компьютеризации школ было отмечено снижение когнитивных способностей детей. И там стали раскомпьютеризировать школы, чтобы вернуть детей в адекватное состояние. Мы наступаем на те же грабли, только на новом технологическом уровне!
Япония, Южная Корея — известные примеры. Но в Южной Корее они назад не откатились. Если начать использовать костыли при здоровых мышцах, то эти мышцы начнут деградировать. Если перестать думать и просто переписывать то, что подсказывает электронное устройство, то деградирует мозг. Тут вопрос, что пересилит — бюрократическое желание получать ответы на конкретные тесты или как бы контролировать уровень знаний по контрольным точкам или желание дать образование. А как только ты ставишь контрольные точки, ты убиваешь образование. Кто у нас сейчас согласится на отказ от контрольных точек, я не знаю.
ОТР: Мы говорим о сущности образования, о том, что она выхолащивается… А она вообще в чем?
В получении базовых фундаментальных знаний. Если говорить про математика — это получение фундамента, на который можно нацепить любые практические знания в соответствии с конъюнктурой момента. Сегодня у нас БПЛА — значит, мы даем знания по БПЛА. Но если у нас есть люди с хорошим техническим бэкграундом, то они справятся с чем угодно. Дальше эту надстройку над базой можно менять как угодно. Если базы нет, то дальше нужно учить этого человека всему с нуля.
ОТР: Мы живем и вынуждены принимать решения в своеобразной «гонке», нам говорят, что время такое, нужно делать это все быстрее и быстрее. Это действительно так?
Нет. Когда говорят про «гонку», мне это сразу напоминает мошенников. Ведь мошенники, когда звонят по телефону, создают давление времени: «Надо срочно!». Человек под давлением ничего не успевает сообразить, теряется, его можно взять «тепленьким» и развести на большие средства. И мы знаем, что в прошлом году наших граждан развели на 300 миллиардов рублей, это официальная статистика МВД. В образовании то же самое. Но это консервативный вид деятельности, образование должно давать проверенные временем знания. Раньше их проверяли веками и только потом пускали в образование. В XX веке ситуация начала ускоряться, новые знания достаточно быстро начали вставлять в программу. Советская власть тоже приложила к этому руку, особенно в гуманитарных дисциплинах. Но нынешний призыв быстро, очень быстро учить новые технологии иначе можно опоздать — ложный. Потому что то, что на первом курсе у конкретного студента считается новой технологией, к пятому курсу станет старой. Сейчас такой технологией стал генеративный ИИ. Сейчас на нее мы все молимся и говорим, что это — новейшая технология всего нашего будущего. На Западе уже анализируют и пишут о том, что производительность труда, благодаря ИИ, не повышается, что увольнения не приводят к желаемому эффекту, что стоят эти модели дороже, чем люди и для бизнеса, для производителей эти модели убыточны. Значит, они будут повышать цены. И что там дальше — неизвестно. Может, они вообще через пару лет закроются! А мы все вложим в генеративный ИИ…
Вот когда пройдет хайп, может быть и можно будет внедрять ИИ в образование. Но точно не сейчас. Слишком много непонятных рисков. В моей компании сейчас стали изучать риски информационной безопасности, которые несет использование генеративных моделей — их там огромное количество.
ОТР: С какими рисками мы сталкиваемся, когда, с одной стороны, эта технология сама внедряется — ученики повсеместно используют генеративный ИИ — с другой стороны, когда ее внедряют в систему образования?
Первый риск — это негарантированность знаний. Модель, например, может дать неточное определение. Скажем, биссектрисы. А человек его запомнит! Если мы даем знания — они должны быть стопроцентными, там не должно быть вероятности. Я разговаривала с разработчиками из Яндекса, они говорят, что Алиса отвечает с вероятностью в 84%. А должно быть 100%. Особенно в случаях сложных вопросов.
Второй риск — деградация умственных способностей.
Третий — у людей не закладывается база. Когда они привыкают получать подсказки, базу они не получают.
Четвертый — риск утечки и компрометации данных через ИИ-модели. Те работы, которые пишут студенты с помощью ИИ-моделей утекают в эти же модели и их западные разработчики будут знать, чему учат и над чем работают сейчас русские. И данные, которые выдает модель, кстати говоря, могут быть скомпрометированы или подменены специально, с какой-то злой целью.
ОТР: А какие-то полезные вещи происходят с нами от внедрения ИИ?
ИИ полезен в области программирования, он ускоряет работу программистов, при условии, что результаты внимательно проверяются профессионалами. ИИ полезен в автоматическом отражении кибератак (они выявляются по косвенным признакам с помощью ИИ) и в борьбе с компьютерными вирусами. Если бы сейчас по старинке на каждый вирус человек сам писал свою антивирусную базу, это было бы просто бесполезно. ИИ полезен на поле боя. ИИ — это анализаторы для сельского хозяйства, которые выясняют в каком состоянии почва, достаточен ли полив культур, подсказывают, сколько удобрений внести в почву. Все это радикально повышает урожайность. Раньше таких возможностей не было.
ОТР: Получается, ИИ не место в общем образовании, в среднем, в высшем…
В колледжах можно давать с помощью ИИ какие-то практические задания. Там, как раз, есть простор для эксперимента — в течение ограниченного времени.
ОТР: Спасибо, Наталья Ивановна!