XVII Ершовская лекция по информатике и программированию, 19 апреля 2022 г.
Институт систем информатики имени А.П. Ершова СО РАН и Новосибирский региональный общественный фонд информатики и искусства программирования им. академика А.П. Ершова организуют XVII лекцию ежегодного цикла лекций по информатике и программированию памяти основателя сибирской школы программирования академика Андрея Петровича Ершова.
19 апреля 2022 года в 16:00 (Новосибирск) лекцию прочитает директор Института системного программирования им. В.П. Иванникова Российской академии наук (ИСП РАН), заместитель президента РАН по цифровой трансформации, доктор физико-математических наук, академик РАН, член-корреспондент Академии криптографии РФ Арутюн Ишханович Аветисян.
А.И. Аветисян – специалист в области прикладной математики, системного программирования и кибербезопасности, автор более ста научных работ, имеет восемь свидетельств о регистрации результатов интеллектуальной деятельности.
Сфера научных интересов: анализ и оптимизация программ, безопасность программного обеспечения, компиляторные технологии и технологии параллельных и распределённых вычислений. Под руководством и при участии А.И. Аветисяна получены фундаментальные результаты в области безопасности программного обеспечения, разработаны математические методы и алгоритмы его анализа, решена проблема восстановления алгоритмов из бинарного кода с возможностью их последующей верификации. Полученные результаты не имеют аналогов в России и позволяют эффективно решать задачи глубокого анализа и трансформации программ с целью их аудита для нахождения уязвимостей безопасности и других дефектов в исходном и бинарном коде.
На базе полученных результатов созданы инструментальные средства поддержки жизненного цикла разработки безопасного ПО: статический анализатор исходного кода Svace, комплекс динамического анализа программ ИСП Crusher, специализированный инструмент для поиска утечек в памяти чувствительных данных «Блесна». Созданные инструментальные средства внедрены в российских и в зарубежных компаниях (Samsung, Huawei, «Лаборатория Касперского» и другие), а также в российских государственных учреждениях.
А.И. Аветисян заведует кафедрами системного программирования на факультетах ВМК МГУ, ФУПМ МФТИ и ФКН ВШЭ. Осуществляет научное руководство лабораториями системного программирования в Новгородском государственном университете им. Ярослава Мудрого, Российско-Армянском университете (Ереван, Республика Армения), на базе Академии ФСО России (г. Орёл). Благодаря его участию и научному руководству на базе ИСП РАН создаются и развиваются Технологический центр исследования безопасности ядра Linux (совместно с ФСТЭК России) и Центр доверенного искусственного интеллекта (вошёл в число победителей конкурса в рамках федерального проекта «Искусственный интеллект»).
Аннотация лекции
Взрывной рост информационных технологий привел к необходимости активного развития кибербезопасности. Методы и алгоритмы анализа, а также соответствующие инструменты поддержки жизненного цикла разработки безопасного ПО создаются и развиваются уже много лет. Однако в связи с появлением и широким внедрением искусственного интеллекта (ИИ) в области кибербезопасности появились новые принципиальные вызовы, которые требуют соответствующих фундаментальных результатов и инструментов.
Вызовы связаны с датацентричностью и заключаются в появлении новых классов атак – на обученные нейросетевые модели, причём эксплуатируемые уязвимости могут возникать либо внедряться на всех этапах жизненного цикла модели. Это атаки уклонения, кражи конфиденциальных данных и моделей и др. Кроме того, возможны кражи данных и моделей из облачных сред; значимую роль играют и уязвимости в исходном коде фреймворков машинного обучения.
В связи с этими угрозами необходимы методики их предотвращения, а также создание комплекса инструментов, обеспечивающего безопасность на всём жизненном цикле разработки систем ИИ с заданным уровнем доверия − от проектирования, сбора и подготовки данных до эксплуатации. Проблемы создания таких доверенных систем уже активно рассматриваются в мировом научном сообществе.
На лекции будет кратко рассказано о методах и технологиях в основе современного искусственного интеллекта; основная часть будет посвящена возникающим угрозам и тому, какие средства борьбы с ними предлагает современная наука.