Главные риски применения искусственного интеллекта реализуются в тот момент, когда люди передают системе право принимать ответственные решения. О рисках искусственного интеллекта Н. Касперская рассказала в интервью каналу RU-CENTER. Что собой представляет нейросеть? Это система, которая получает входящую информацию и обучается на ней. Далее Н. Касперская рассказала о рисках искусственного интеллекта детальнее. Система искусственного интеллекта получает довольно большой объем информации и выстраивает собственный алгоритм обработки данных. В результате получается что-то вроде фильтра, который при получении данных анализирует их и выдает заключение об их содержимом. Например, если мы говорим о системе распознавания изображений, то ее можно обучить на миллионах фотографий кошек, и тогда она научится определять, что нечто покрытое шерстью, с усами, треугольными ушами и круглыми глазами относится к данному виду домашних животных. При этом даже создатели этих систем не очень понимают, как они это делают.
Последним прорывом в данной области стал нашумевший Chat GPT — первая система ИИ, которая успешно прошла тест Тьюринга, специально создававшийся для того, чтобы отличать поведение человека от действий роботов. Таким образом, с момента появления данной системы люди уже не способны понять, кто с ними разговаривает — реальный собеседник или же продвинутая система искусственного интеллекта. Другая важная угроза — это возможность закладок в ИИ. Например, разработчик может научить систему распознавания лиц не реагировать на изображения определенных людей, и они смогут беспрепятственно проникать на объекты заказчиков. И потенциальные жертвы не имеют никакой возможности проверить безопасность такого продукта перед его покупкой.
Вызывает опасение и тот факт, что люди начинают доверять ИИ больше, чем друг другу. В частности, сейчас полиция может задержать человека, если от системы распознавания лиц пришел сигнал о том, что его внешность схожа с внешностью преступника — с точностью 50%. И это не может не вызывать опасения.