Искусственный интеллект угрожает безопасности подключенных к Сети автомобилей и дронов

Кибератаки на подключенные транспортные средства могут иметь опасные последствия, пишут в совместном отчете «Malicious Uses and Abuses of Artificial Intelligence» Межрегиональный научно-исследовательский институт ООН по вопросам преступности и правосудия (UNICRI), Европейский центр киберпреступности Европола (EC3) и компания по кибербезопасности Trend Micro.

Недавно мы приводили обзор курьезных случаев, связанных с умными автомобилями, подключенными к Сети, но уже сегодня такие структуры, как ООН и Европол, начали бить тревогу по поводу безопасности подключенных к Сети устройств.

Ираклий Берлидзе, руководитель Центра искусственного интеллекта и робототехники Межрегионального научно-исследовательского института ООН по вопросам преступности и правосудия, считает, что искусственный интеллект — фундаментальная технология будущего. Уже сегодня она используется в автономных транспортных средствах, более того, по данным DataProt на 2020 год, 37% предприятий и организаций всего мира уже внедрили в свои процессы технологии искусственного интеллекта. При этом специалисты отмечают: технологии искусственного интеллекта и машинного обучения одновременно могут быть как помощником во множестве отраслей, в том числе в борьбе с преступностью, так и угрозой, если попадут в руки злоумышленников.

В настоящий момент злоумышленники используют искусственный интеллект, в основном, для создания дипфейков, подбора паролей, взломов или выдачи себя за человека в социальных сетях.

В будущем специалисты прогнозируют куда более широкое его использование: помимо, например, преследования путем социальной инженерии или манипулирования торгами на фондовых рынках, его могут использовать для целей уклонения и злоупотребления системой распознавания образов автономных автомобилей.

Если злоумышленник получит доступ к контролю систем искусственного интеллекта, управляющего автономными транспортными средствами, он сможет устроить на дорогах хаос — от задержки трафика до умышленных аварий.

Сегодня компании стараются своевременно предпринимать меры по обеспечению безопасности подключенных устройств, но невозможно предугадать, какой вредоносный код или уязвимость появятся завтра. Например, недавно бельгийский исследователь обнаружил простой метод взлома брелоков Tesla Model X, позволяющий за минуты угнать любой автомобиль без обновленной до последней версии прошивки, сообщает ZDNet.

В отчете специалистами также отмечается, что особый интерес для преступников представляют автономные дроны, которые привлекательны имеющейся в них информацией. Например, дроны могут собирать пароли от Wi-Fi и маршрутизаторов, что в перспективе открывает злоумышленникам путь к любым конфиденциальным данным. В то же время такие устройства используются и при инструментальном контроле (аудите) предприятий, особенно, если они имеют обширную территорию.

Выше указан только частичный список потенциальных угроз, поэтому производителям и технологическим компаниям стоит обратить внимание на развитие технологий защиты и обеспечение безопасности своего продукта до того, как это выльется в крупные проблемы.

Приложение: перечни тенденций и сценариев из отчета «Malicious Uses and Abuses of Artificial Intelligence»

Trends Found on Underground Forums (перечень тенденций, обнаруженных на подпольных форумах):

1. Human Impersonation on Social Networking Platforms
2. Online Game Cheats
3. AI-Supported Hacking
4. AI-Supported Cryptocurrency Trading
5. Social Engineering

Future Scenarios of Malicious Uses and Abuses of AI (будущие / возможные сценарии криминального использования ИИ):

1. Social Engineering at Scale
2. Content Generation
3. Content Parsing
4. Improved Social Profile Aging for Forums and Botnets
5. Robocalling v2.0
6. Criminal Business Intelligence
7. Abusing Image Recognition Systems
   • Autonomous Cars
   • Drones, Connected Skies, and the Internet of Flying Things
8. Escaping an Image Recognition System
9. Remote Machine Learning Sets Pollution
   • Security Algorithms
   • AI-Enabled Stock Market Manipulation
10. Business Process Compromise and Injection of Safelisted Telemetry
11. Insider Attacks: Banking and Trading Floor AI
12. Local Library Poisoning by Resident Malware
13. AI-Supported Ransomware
14. Escaping AI Detection Systems
    • Fraud and Voice Recognition in Banks