«Дуэль» на Sputnik-e: ИИ, мошенничества, защита данных

Искусственный интеллект развивается с невероятной скоростью. К чему это приведет?

Я думаю, будет как обычно. ИИ — привлекательная технология, обладает особым магнетизмом и создает иллюзию человеческого общения. Людям это нравится, им кажется, что это абсолютно новый прорыв и мы на каком-то ее феерическом витке. Но те, кто «в теме» помнят, что ИИ развивается уже более 70 лет, а первые попытки создания машинного разума были предприняты во время Второй мировой войны, в середине сороковых. Тот же Алан Тьюринг создавал свою вычислительную машину во время этой войны, и она была первым прототипом ИИ. Он и придумал знаменитый тест Тьюринга, который задает вопрос: «Могут ли машины демонстрировать поведение, неотличимое от человеческого?». На сегодня этот тест пройден. Человек сегодня не может понять, говорит он с роботом или с человеком.

Сейчас мы наблюдаем классический цикл хайпа, который описывает аналитическая компания Gartner: сначала технология взлетает, все о ней говорят, потом наступает разочарование, а затем медленный выход на плато производительности. Так было и с интернетом, и с блокчейном совсем недавно. На Западе уже стали писать о том, что качество больших лингвистических моделей падает, а внедрявшие их компании несут убытки и не понимают, как выйти в прибыль. Плюс колоссальные затраты на электроэнергию и огромная нужда в электричестве. Я думаю, этот пузырь скоро сдуется, и ИИ выйдет на нормальное плато производительности, став просто рабочей технологией для конкретных применений.

Сейчас каждый второй говорит, что использует ИИ. Это реальность или просто модный ярлык?

Надо понимать, что ИИ — это набор технологий. Система защиты от утечек, которую делаем мы, — это типичный ИИ, потому что она распознает конфиденциальную информацию, отличает ее от неконфиденциальной. Антивирус, отличающий вирус от не-вируса — это ИИ. Шахматы с компьютером — ИИ. Даже автокоррекция текста в смартфоне — тоже он. В этом смысле, конечно, мы все его используем. Другое дело — генеративный ИИ, такой как ChatGPT. Его принципиальное отличие в том, что он работает на огромном массиве больших данных как «черный ящик». Мы не знаем, почему он выдает то или иное решение. Это первая технология, которая непредсказуема для человека. Но это не значит, что машина восстанет или технология будет бастовать. Данные в нее закладывает человек, запросы пишет человек, задачи ставит человек. Без человека она не начнет ничего сама генерировать.

Как простому человеку относиться к внедрению ИИ во все сферы?

Любой инструмент — как нож: можно хлеб резать, а можно человека зарезать. Есть сферы, где ИИ незаменим. В сельском хозяйстве его применяют, например, для анализа посевов, почв и контроля состояния стад животных, в медицине — для диагностики и, например, для анализа генома, в военной сфере это те же дроны. Но есть области, где его применение, на мой взгляд, сомнительно и даже опасно. Это социальная сфера, госрегулирование и особенно образование. Почему? Потому что ИИ дает ответ с определенной вероятностью. Если мы будем выдавать школьнику ответы с вероятностью, чему мы его научим? И второе: дети перестали думать. Они просто копируют ответ из чата и не включают голову. Учителя в вузах и школах бьют тревогу: это катастрофическая угроза.

Как объяснить ребенку, зачем учить язык, если есть переводчик?

Мы рискуем получить поколение людей без критического мышления. Разработчики ИИ это понимают: многие из них запрещают своим детям гаджеты до 12 лет, так как видят риски. А обычные люди очарованы прелестью технологии и не понимают, во что легко погружаются. Что делать? Надо самим писать тексты, самим писать код, школьникам — открывать бумажные учебники и самостоятельно отвечать на уроке.

Нужно ли отказываться от бумажных носителей?

Посмотрите на ситуацию в Южной Корее: в сентябре прошлого года сгорел государственный ЦОД, в результате чего потеряли 60 терабайт данных. Теперь по крупицам восстанавливают информацию с личных телефонов и бумаги. Бэкап такой системы сделать невозможно. У нас рисков больше: идет СВО, в регионах периодически отключают электричество, интернет работает с перебоями, прилетают вражеские беспилотники. В этих условиях ставить цель полностью отказаться от бумаги — опасно. Я за разумную цифровизацию и баланс, за то, чтобы в условиях ведущийся войны и вала мошенничеств не ставить себе цель отказаться совершенно от бумажных носителей, а не за тотальный переход в цифру без альтернатив.

Что вы думаете про отказ от наличных денег и переход на электронные расчеты?

Отказываться от наличных денег не нужно. Я думаю, это может вызвать социальный взрыв. Наличный оборот должен остаться. Глава ЦБ заявляла, что пока не планируют отказываться, и я надеюсь, так и будет.

К чему приводят утечки персональных данных? Чем мы рискуем?

Самый распространенный риск — мошенничество. Мошенники знают, кому звонят, знают особенности вашей жизни, цепляют на крючок. В прошлом году у российских граждан украли около 300 миллиардов рублей. При этом в мире мы нашли 208 крупных штрафов за утечки данных, из них в России — всего 6. Самый большой штраф в мире — TikTok в Ирландии, это 620 млн долларов. В России общая сумма штрафов за год — 570 тысяч рублей, то есть 7300 долларов. То есть украли у граждан почти 3 миллиарда долларов, а организации заплатили 7 тысяч — вот такое соотношение. Правда, с мая заработал закон об оборотных штрафах, и я надеюсь, что ситуация изменится.

По поводу мошенников: обмануть могут каждого. Мне звонила месяца два назад милая барышня, без акцента, называет мой адрес, адрес дачи, прописку, дом и строение… Но мне кажется, вся такая информация о нас уже давно есть в сети.

Это утечка персональных данных. И да, эта информация о вас в сети есть, но, во-первых, она периодически обновляется и не хотелось бы, чтобы новая информация появлялась, а во-вторых, это не значит, что эти данные не надо защищать. Более того, надо стремиться, чтобы мошенники не получали новых возможностей по обогащению наших данных. Вместо этого в стране идет странная история по созданию дополнительных реестров и регистров с дополнительными данными о гражданах, как будто, чтобы дать мошенникам в руки еще больше инструментов для успешного мошенничества. Например, создание единого регистра заболеваний (состояний). С первого марта вводится регистр, по которому данные о 12 заболеваниях, включая онкологию, сердечные и психические заболевания, попадают в этот регистр. При этом пациенты и данные об их заболеваниях будут вписываться по факту обращения к врачу. И по наличию диагноза в медкарте. Никакое исключения записей из регистра не предусмотрено. И тут поразительны еще такие вещи как попадание в регистр «по факту суицидальных мыслей» и из-за беременности…

Как людям обезопасить себя от мошенничества, если с помощью нейросетей подделать могут и голос, и даже изображение человека?

Как только речь заходит о деньгах или кодах — сразу «стоп». Надо идентифицировать человека. Если звонит знакомый — спросить о том, что знаете только вы вдвоем. Если незнакомый — попросить адрес и сказать, что приедете лично. Звонки из «госорганов» — это сразу красный флаг, они не любят звонить. И никогда не говорите «да» в разговоре с подозрительными лицами. Вообще лучше не разговаривать и класть трубку.

Будет ли борьба с мошенничеством вестись бесконечно? Мошенники адаптируются быстрее, чем защита. И можно ли как-то защититься?

Я занимаюсь информационной безопасностью с 1994 года. Мы сначала боролись с простыми вирусами, потом появились самомодифицирующиеся, потом двухчастные схемы — один вирус садится в систему, выключает антивирус, вызывает своего «друга» и тот инфицирует систему. То есть, мошенники адаптируются мгновенно. И эта борьба не прекращается до сих пор. Именно поэтому в законах нельзя писать конкретные технические рекомендации — они устареют в момент публикации. Потому что мошенники их тоже прочтут и скажут, что в этот вектор они не идут в таком случае. Это обратная сторона цифровизации. Чем глубже мы переходим в цифру, тем больше мошенников. Чем больше у нас ИИ, тем больше дипфейков, делающихся на ИИ. Мы будем бороться, мошенники будут бороться с нами, но пока они побеждают с разгромным счетом.

Сегодня через электронную подпись крадут квартиры и бизнесы. Готовясь к программе я видел статистику, что рост мошенничеств с использованием электронной подписи составил 40%. Собирается ли государство с этим что-то делать?

К сожалению, я не вижу тренда на защиту информации. Я вижу лозунги: «Навалимся, навнедряем еще какой-то цифры еще куда-нибудь».  Видимо, потому что везде стоят коэффициенты эффективности по внедрению ИИ или внедрению «цифры». Коэффициентов по защите нет. Например, есть развернутое описание того, как регистр заболеваний будет устроен, а по поводу безопасности там одна строчка: «Еще система должна быть защищена». Причем, к системе будет иметь доступ большое количество самых разных ведомств. То есть, мы строим дом, в котором нет и не предполагается дверей… Как его защитить? Я не знаю. Этот регистр построен так, что утечки из него будут априори.

Это только у нас так или во всем мире?

По-разному. Европа заняла очень жесткую позицию. Они создали GDPR — General Data Protection Regulation, общий регламент по защите данных. Согласно этому регламенту любая утечка данных очень жестко карается. Исследования нашего экспертно-аналитического центра о штрафах показывает, что 76% штрафов за прошлый год выявлено как раз в Европе и это как раз из-за GDPR. В США гораздо более свободный подход, хотя сейчас наказание за утечку персональных данных у них сейчас ужесточается, и штрафы у них выросли. То есть подход «технологиям позволено все» сейчас меняется на более жесткий. И России, мне кажется, тоже нужно такое ужесточение. Например, нашей стране нужен закон, регулирующий использование искусственного интеллекта. Потому что это ключевая, экзестенциальная технология, а у нас нет закона, регулирующего ее, у нас нет. Мы не знаем, что можно, чего нельзя. Между тем, должны быть ограничения при внедрении и использовании ИИ, например, в социальной сфере.

Как обстоят дела с ИТ-кадрами? Те, кто уехал в 2022 году, вернулись?

Значительная часть вернулась. Острого дефицита кадров сейчас нет. Рост зарплат, который продолжался до середины прошлого года, остановился из-за стагнации в экономике. На рынок вышла огромная масса людей, прошедших трехмесячные курсы, и они никому не нужны. За три месяца айтишником не стать. Высококлассных специалистов по-прежнему мало во всем мире, а плохо обученных выпускников вузов — в избытке. Им трудно найти работу.

Чему надо учить студентов, чтобы они стали теми самыми высококлассными специалистами?

Я консерватор. Считаю, что в первую очередь учить надо фундаментальным вещам: математике, физике, алгоритмическому мышлению, а не конкретным языкам и технологиям. Пока студент учится 5 лет, модная технология устареет. Поэтому надо учить фундаменту, остальное приложится. Пример: нашей компании были нужны программисты на языке Go. Мы не нашли готовых, взяли своих «сишников», отправили на двухмесячные курсы, они стали отличными Go-специалистами, потому что у них уже было базовое понимание программирования, есть алгоритмическое мышление, они просто обучились новому языку. Важно, чтобы образование давало фундамент, а не сиюминутные навыки.

Сколько языков должен знать программист?

Важно не количество, а гибкость мышления и заинтересованность. Можно знать один язык, но отлично, и это лучше, чем пять — и плохо.

Нужно ли хорошо учиться в школе, чтобы стать айтишником?

Это не напрямую связанные вещи. Я в школе была хорошисткой, а в институте — троечницей. У дочери в классе учится мальчик: по математике — пятерки, по русскому — двойки. То есть, лучше работает другое полушарие мозга. Почему бы ему не стать гениальным программистом?

Что бы вы хотели пожелать всем нам?

У нас в компании есть майки с надписью «Я же говорил/говорила». Мы ее надеваем, когда случается что-то, о чем мы предупреждали. Очень не хочется, чтобы случился инцидент вроде пожара в ЦОДе Южной Кореи, и мне пришлось бы надеть такую майку. Хочется, чтобы риски — и без того сейчас высокие — просчитывались на этапе проектирования систем, а не когда уже поздно.
 

Блог Натальи Касперской