Борис Петрович, меняется качественный состав кибератак: все больше высококритичных?

Борис Елисеев: Это так. Один из примеров - сентябрьская попытка DDoS-атаки, из-за которой произошли сбои при регистрации пассажиров в нескольких российских аэропортах. Атаку локализовали быстро. Однако нарушения в нормальном функционировании воздушного транспорта заставили серьезно понервничать. На подобный психологический эффект, психоз и рассчитывают кибертеррористы.

Но почему даже супернавороченное оборудование оказывается подверженным риску?

Борис Елисеев: Везде компьютеры. Бесперебойную работу гражданской авиации обеспечивают взаимосвязанные информационные сети и системы. Здесь переплетается абсолютно все.

Объекты критической информационной инфраструктуры, автоматизированные системы управления технологическими процессами, оформления воздушных перевозок… Искусственный интеллект активно трансформирует авиационную отрасль от безопасности полетов до повышения эффективности работы аэропортов, открывает новые возможности. И одновременно ставит новые вопросы.

Сейчас утверждена обновленная национальная стратегия развития искусственного интеллекта до 2030 года, в которой обозначены и новые риски, и целевые показатели развития ИИ. Все это напрямую касается высшего образования.

Называется общая по стране цифра: 50 тысяч человек - дефицит сотрудников в области кибербезопасности. А конкретно в гражданской авиации?

Борис Елисеев: Точных цифр нет, их просто не считали. Но однозначно: потребность не просто очень большая. Огромная.

К 2030 году доля кадров, обладающих навыками работы с ИИ, должна составить 80 процентов. Для сравнения: в 2022 году этот показатель был всего 5 процентов. Ожидается, что ежегодное число выпускников вузов, освоивших программы в сфере искусственного интеллекта, превысит 15 тысяч. Это в пять раз больше, чем два года назад.

Поставлена задача: обеспечение кибербезопасности, в том числе и на новые типы угроз в области информационных технологий. Здесь не обойтись без вузовской науки.

В российских университетах год назад ввели специальный учебный модуль, связанный с искусственным интеллектом. Он единый для всех? Или, скажем, для авиаторов чем-то отличается?

Борис Елисеев: Минобрнауки рекомендовал прототип программы, который разделен для подготовки профильных и непрофильных специалистов. Но, кстати, в нашем университете стали заниматься всем этим намного раньше: мы взяли за основу регламент Международной организации гражданской авиации (ИКАО), выпущенный еще в январе 2022 года. Это бюллетень № EB 2022/23 под названием "Культура и кибербезопасность в гражданской авиации".

Скажу вам, очень интересный методический документ. Один из его разделов так и называется: "Осведомленность, подготовка и образование". ИКАО определила действия по созданию надежных механизмов уменьшения рисков для критической авиационной инфраструктуры, которые связаны с незаконным вмешательством и угрозой устойчивости систем, влияющих на безопасность полетов.

Образно говоря, нужен бодрствующий, анализирующий все возможные критические ситуации и вырабатывающий адекватные меры противодействия возможным атакам киберорганизм - что-то вроде "Головы профессора Доуэля". Который должен, в свою очередь, находиться под контролем человеческого разума.

Чему и как вы учите будущих специалистов по искусственному интеллекту и кибербезопасности?

Борис Елисеев: Какие аспекты подготовки кадров в области искусственного интеллекта я бы выделил вообще? Мы учим студентов глубоко понимать основы анализа данных, включая методы сбора, хранения, обработки и их интерпретации. Учим пользоваться специальными инструментами и технологиями, такими как Python, SQL. Учим применять алгоритмы машинного обучения, искусственных нейронных сетей для создания моделей, которые помогут в прогнозировании и принятии решений.

Что касается кибербезопасности, то здесь необходимо знание принципов и методов защиты данных от несанкционированного доступа, утечек и вредоносных атак. Выделяют два подхода к применению ИИ в высшей школе: как особой сфере образования и как развитию технологий в рамках "человек - машина - алгоритм". Нейросети, машинное обучение, чат-боты и анализ данных прописались не только в учебном процессе, но и уже присутствуют в научных, а также выпускных квалификационных работах выпускников и аспирантов нашего вуза.

В свое время на профильной конференции в Амстердаме один из консультантов наглядно продемонстрировал возможность взлома бортовой системы самолета с помощью смартфона…

Борис Елисеев: Сегодня мы говорим о реальности, с которой сталкиваются пассажирские самолеты всего мира: стремительное развитие IT-технологий, эксплуатация воздушных судов без использования средств защиты каналов передачи данных формируют новые угрозы безопасности. Так, в феврале была предпринята попытка изменить курс израильского самолета, который вез 250 пассажиров из Пхукета (Таиланд) в Тель-Авив.

Все произошло в небе над Сомали. Пилоты увидели на бортовом компьютере, что их маршрут неожиданно... изменился. Экипаж срочно связался с диспетчерами, и те подтвердили, что никаких таких указаний не давали. После чего летчики вернули изначальный маршрут в полетный план.

В израильской компании El Al заявили, что не считают атаку направленной именно против них. И сообщили, что подобное случалось в том же регионе с бортами других авиакомпаний. Opsgroup (международная организация, объединяющая 8 тысяч пилотов и диспетчеров) зафиксировала более полсотни подобных инцидентов с середины октября по середину ноября 2023 года.

И где выход?

Борис Елисеев: Только в научном подходе. Проблемами в сфере информационной безопасности гражданских самолетов активно занимается группа ученых нашего университета. Решается задача создания бортовой системы обнаружения кибератак на воздушное судно, использующей методы искусственного интеллекта.

Мнение

Виктор Петров, профессор, декан факультета авиационных систем и комплексов МГТУ ГА:

- Бортовые системы воздушного судна подвержены опасности атак нулевого дня. То есть против которых еще не разработаны защитные механизмы. Обычно это не единичные атаки, а их последовательность, которая включает разведывательную составляющую для получения доступа к бортовым системам и непосредственно механизмы достижения конечной цели.

Такие целенаправленные, повышенной сложности атаки (advanced persistent threat, APT) - самые опасные. Они составляют 60 процентов от общего числа кибернападений. В чем тут проблема? Их невозможно гарантированно обнаружить, предугадать поведение, а известные методы борьбы - межсетевые экраны, антивирусы, спам-фильтры - зачастую не эффективны. Классические SIEM-системы могут диагностировать подозрительную активность, вызванную наличием APT-атаки лишь после того, как будет нанесен существенный ущерб бортовым системам самолета.

Для создания бортовой системы обнаружения кибератак на воздушное судно рассматриваются различные алгоритмы машинного обучения, предсказания и минимизации эмпирического риска. Исследования, проведенные в МГТУ ГА, показали: наилучшими показателями обладает модель на основе нейронной сети, имеющая преимущества перед остальными алгоритмами машинного обучения как по показателям ошибок, так и по всему множеству предложенных метрик качества классификации.

Через обучение нейросети появляется возможность выявлять не только наличие активных угроз, но и локализовать, определить категорию атаки. Разработка университета, использующая методы искусственного интеллекта, подана на конкурс научных работ ИКАО, который пройдет в Монреале.

Другая важнейшая задача, которую решают ученые вуза, - отражение спуфинг-атак. Разработан новый метод, названный в МГТУ ГА методом монолатерации. В чем суть? Летящий самолет 1-2 раза в секунду посылает сигнал на другие воздушные суда и в диспетчерские центры управления воздушным движением: кто он, свои координаты, определяемые с помощью спутников, скорость и другие параметры. Эту информацию могут принять абсолютно все - она идет в открытом виде, без использования средств шифрования. Так что злоумышленнику не представляет труда попытаться вторгнуться и выдать в эфир подмену, искаженную или ложную информацию.

Для выделения сигнала от реального воздушного судна предложены сложные многопозиционные системы наблюдения, в основе которых лежит так называемый принцип мультилатерации. Это когда координаты воздушного судна измеряются с помощью разностно-дальномерного метода через сеть территориально-распределенных станций. То есть координаты борта вычисляются по задержке времени прихода сигнала на разные станции. Таких разнесенных приемных станций должно быть не менее трех. Первая в России многопозиционная система наблюдения "Альманах" развернута на аэродроме Пулково, ее внедрение обошлось примерно в 130 млн руб. Число приемных станций - 22, и планируется внедрение "Альманаха" еще в восьми крупных региональных аэропортах.

Мы предложили для отражения спуфинг-атак метод более эффективный и при этом куда проще. При монолатерации, где используется искусственный интеллект, нет необходимости в нескольких приемных станциях и сложных методах их синхронизации. Достаточно одной приемной станции, а потому стоимость системы наблюдения, использующей метод монолатерации, будет во много раз меньше.

В университете создана и действует научная школа кибербезопасности воздушных судов гражданской авиации. Наши студенты в своих выпускных работах в рамках научной школы разрабатывают системы, механизмы, модули и другие решения для отрасли. Это, например, касается оценки показателей безопасности полетов с использованием машинного обучения, систем визуализации информации при управлении беспилотниками, информационных систем анализа полетной информации и т.д.

И не случайно студенты МГТУ ГА на соревнованиях по практической информационной безопасности - CTF (Capture The Flag, "Захват флага") в Москве - вторые, в России - третьи. А капитан вузовской команды Георгий Кигурадзе - член команды сборной РФ на Кубке мира по CTF.