18 апреля команда Аналитического центра кибербезопасности компании «Газинформсервис» приняла участие в мероприятие профессионального сообщества, посвященном развитию ML-систем – митап MLOps и ML-инженеров.

Специалисты из Аналитического центра кибербезопасности поделились своей экспертизой и мнением об инфраструктурных векторах атак на LLM. В частности, эксперт «Газинформсервиса» подняла вопрос использования watermark для защиты LLM: «Сегодня цифровые водяные знаки, как правило, используются для защиты авторских прав, селективной и точной аутентификации, для контроля целостности файлов, однако стоит рассмотреть возможность использования watermark от кражи модели LLM из инфраструктуры или кражи данных модели через API или чат-бота», – говорит Ксения Ахрамеева, ведущий инженер-аналитик компании «Газинформсервис».

«Поведенческая аналитика, основанная на машинном обучении, уже успешно используется в продуктах, направленных на обнаружение и расследование киберинцидентов, хороший пример – это в Ankey ASAP. Так как, сегодня важно не только создать продукт для защиты от киберинцидентов, но и защитить его от возможных кибератак». Также на мероприятии представители «Газинформсервиса» и других крупных интеграторов и вендоров в ИБ обсудили возможные направления в развитии атак на решения, основанные на машинном обучении. «Главная цель мероприятия – найти решение для надежной защиты продуктов СЗИ, а значит и IT-инфраструктуры любой компании», – подытожила Ксения.