Решение будет наиболее полезно в транспортной сфере.
Учёные разработали решение для проверки устойчивости ИИ-систем к кибератакам. Это веб-сайт для загрузки моделей машинного обучения в облако, где они в автоматическом режиме проходят тестирование на устойчивость к разным видам атак.
«В последние годы с активным внедрением систем ИИ в повседневную жизнь — например, голосовых банковских помощников, автопилотов, сервисов медицинской диагностики, систем идентификации на транспорте — стало понятно, что тематика устойчивости к атакам скоро станет очень востребована», — прокомментировал RT доцент факультета ВМК МГУ Денис Гамаюнов.
Решение, разработанное специалистами Центра компетенций Национальной технологической инициативы (НТИ) по технологиям хранения и анализа больших данных МГУ, можно применять для любых систем, построенных на основе нейросетевых моделей.
Наиболее полезно оно будет в случае с автопилотами для грузовых автомобилей и поездов, системами идентификации объектов на изображениях и видео, распознавания диктора по голосу и текста из аудиосообщений, так как они наиболее часто подвергаются кибератакам. Команда уже создала прототип решения и сейчас работает с рядом крупных российских клиентов над повышением устойчивости их ИИ-продуктов.
Эксперт спрогнозировал, что в ближайшие годы рынок средств защиты систем ИИ вырастет в несколько раз.
«Традиционно рынок кибербезопасности растёт вслед за своим клиентом, то есть рынок безопасности ИИ-решений кратно вырастет вслед за ростом числа их внедрений», — заключил он.
Фото: pixabay.com
