Сегодня я выступала на форуме «Цифровая эволюция» в Калуге. На круглом столе «Ключевые факторы цифровой трансформации для устойчивого развития регионов» я традиционно говорила не о плюсах и удобствах, а об угрозах и рисках, которые несет глобальная, слишком быстрая и недостаточно хорошо продуманная цифровизация разных отраслей экономики – неважно, в центре она ведется или в регионах.
Тема рисков цифровизации очень невыгодная, ее почти никогда не поднимают. Я работаю в информационной безопасности 25 лет, и я еще не видела ни одной новой технологии, которая бы не несла новых рисков. При этом, угрозы и риски цифровизации надо разделять.
Кампанейщина в цифровизации
Один из самых высоких рисков цифровизации – риск кампанейщины, то есть, отсутствия плановости, систематичности в этой работе. То, что сейчас происходит с цифровизацией – напоминает перестройку и ускорение 80-х, когда говорили, что сейчас побегут и все ускорят. Сейчас говорят, что побегут и все цифровизуют. Цифровизация зачастую идет ради самой цифровизации. Мне очень понравилось то, что сказал Дмитрий Олегович Разумовский, зам. губернатора Калужской области, выступавший на круглом столе до меня – сначала на любом предприятии, в любой организации, в области, должны быть выстроены процессы и только потом уже нужно понимать, какие из этих процессов будут цифровизовываться, а какие нет.
Цифровизация должна делаться разумно. А когда мы говорим про быструю кампанейщину, то имеют место два эффекта, о которых многие не задумываются.
Нежелательные эффекты цифровизации при кампанейщине
Первый – с рынка очень быстро берутся готовые решения, как правило – иностранного производства. И вместо того, чтобы получить новый технологический прорыв, мы еще больше углубляем цифровую колонизацию, то есть, уже имеющуюся зависимость от технологий других стран, от иностранных поставщиков, и если нам, не дай бог, введут санкции, то что же мы будем делать? Второй аспект – гуманитарный и правовой.
Если говорить о праве, то к сожалению, законодательство сейчас кардинально отстает от цифровизации. Но это сложный вопрос – а что должно идти вперед? Если мы беззаконно будет внедрять разные технологии, не приведет ли это к каким-то необратимым последствиям? Третий момент про риски цифровизации, который я хочу отметить – то, что современные средства информационной безопасности, которые есть на рынке, почти безнадежно отстают. Если раньше с появлением новой технологии на рынке практически сразу появлялось средство ее защиты (новая операционная система – антивирусы под нее; новая система корпоративной безопасности – целый спектр решений по информационной безопасности для нее), то сейчас средства информационной безопасности в связи с такой быстрой и глобальной цифровизацией, отстают кардинально. Мы внедряем что-то, что в принципе не имеет защиты, потом возникают атаки на так называемый интернет вещей и число этих атак растет год от года. Потому что внедряют решения, в принципе не имеющие защиты.
Если перейти к угрозам цифровизации, то при этих словах все сразу представляют себе воровство, вымогательство, компьютерные вирусы и т.д. Но это лишь их малая часть.
Я бы разделила эти угрозы сразу на несколько больших категорий, о которых расскажу ниже.
Угрозы глобальной и слишком поспешной цифровизации
- Все связанное с мошенничеством, хищением средств, данных, т.н. credentials (учетных данных пользователей компьютерных систем и других индентицифицирующих человека данных, в частности биометрических данных). Бороться с этим надо законодательными методами, должны включаться правоохранители, надо использовать и электронные средства борьбы, которые у нас, как я уже сказала, отстают.
- Работа с постоянно растущим количеством данных – утечки этих данных. Утечек этих чем дальше, тем больше. Например, за 2020 год только в финансово-банковском секторе России утечек персональных данных и платежной информации стало на 36, 5% больше, чем в 2019. Идет цифровизация, создаются очень большие базы данных (например, база данных ковидных больных попадает в открытый доступ, базы медицинских клиник с очень чувствительными данными), утечки конфиденциальных данных из них происходят регулярно. Эта проблема пока не решена. «Утекшие» данные потом используются с самыми разными мошенническими целями. Наверняка, все за последний год все, присутствующие здесь, на круглом столе, получали звонки от «служб безопасности Сбербанка» и других мошенников на мобильные. Они говорили, что кто-то пытался снять с вашего счета средства или вам пытаются дать кредит, а для этого надо совершить такие-то действия. Вы начинаете вступать с мошенниками в коммуникацию и дальше вас разводят каким-то образом на деньги. Это целая индустрия по хищению данных и дальнейшему их использованию.
- Возможные отказы в обслуживании ИТ-систем, ошибки, сбои. А в случае искусственного интеллекта (ИИ) – это еще и принятие неверных решений самой системой. Этому тоже нужно уделять много внимания на этапе внедрения любой новой системы, потому что она должна иметь определенный уровень надежности. Например, для государственных информационных систем (ГИС) – уровень надежности должен выражаться в нескольких знаках после запятой, то есть, быть очень высоким. Ведь там совершенно чувствительные данные!
- Зависимость от иностранных поставщиков. Подавляющее большинство внедряемого оборудования у нас – иностранного производства. Значит, мы зависим от того, что его могут удаленно отключить в любой момент, на его работу можно удаленно влиять, снимать с этого оборудования данные, возможны и утечки этих данных, шпионаж и т.д. Имеют значение и санкции, при том что сейчас рассматривается возможность запрета на поставку высоких технологий в Россию и Китай, то это для нас риск – очень существенный, остаться без высокотехнологичных решений вообще, если не развивать свой, отечественный софт. Вопрос, который затрагивает наш цифровой суверенитет.
И вот на фоне цифровой кампанейщны, когда наша страна навнедряет иностранных цифровых решений, а завтра американцы могут запретить нам поставку своих технологий в страну, что мы с этим всем будем делать? Я не слышала, чтобы об этом кто-то серьезно задумывался.
Другие риски поспешной и несистемной цифровизации
К гуманитарным рискам я отношу нарушение прав граждан, которые случаются сплошь и рядом, потерю рабочих мест из-за замены их роботами или другими технологиями. Что страна будет делать с людьми, занятыми раньше рутинным трудом, которых цифровизация выгонит из сельского хозяйства, служб такси, транспорта и других направлений, тоже говорят мало, а это очень важный вопрос.
Не менее важен, по мнению и аспект появления так называемой «новой цифровой власти», которую люди (системные администраторы, технические менеджеры, программисты и др.) получают по факту доступ к цифровым технологиям. Этот класс никто не назначал, он получает власть по факту. По факту найма, допуска, получения доступа к данным других людей. А этических или законодательных ограничений на использование этой власти у этих людей нет, становятся возможны очень серьезные злоупотребления чужими данными, преступления. И об этом тоже почти никто не думает.
Учитывая все сказанное выше, с цифровизацией, данными граждан и всем, что их касается, нужно не спешить, несколько раз отмерить и только потом отрезать.