Бастион запустил услуги по анализу защищенности корпоративных ИИ-систем и программно-аппаратных комплексов

Компания по информационной безопасности «Бастион» (входит в «ИКС Холдинг») расширяет линейку своих услуг. Портфель дополнился анализом защищенности корпоративных ИИ-систем и программно-аппаратных комплексов (Hardware Hacking).
Проверка уязвимостей корпоративных ИИ-моделей позволяет оценить текущий уровень безопасности внутренних LLM и провести оценку защищенности обрабатываемых данных и ресурсов, необходимых для работы нейросетей. Также услуга дает возможность проверить вероятность раскрытия ИИ конфиденциальной информации через выходные результаты, чтобы контролировать риски утечек через внутренние службы.
Анализ уязвимостей программно-аппаратных комплексов представляет собой полное тестирование «умных» устройств, промышленных систем и электронной техники на наличие слабых мест в защите. Услуга позволяет оценить уровень безопасности оборудования и встроенного ПО путем моделирования реальных сценариев атак, получить прозрачную оценку возможных последствий киберинцидента.  
Использование собственных LLM и применение программно-аппаратных комплексов характерны преимущественно для среднего и крупного бизнеса. Медицинским организациям, финансовому сектору и компаниям розничной торговли важно уделять защите ПАК особое внимание, поскольку в этих сферах риски компрометации наиболее высоки, а цена ошибки критична.
«Многие крупные организации сейчас используют в работе собственные LLM. В них загружается большой объем внутренней информации о компании, компрометация которой влечет за собой серьезные риски – от утечек до нарушения бизнес-процессов. Это делает защиту LLM-моделей важной и востребованной областью ИБ. Наша команда уже реализовала ряд проектов по анализу уязвимостей ИИ-систем и программно-аппаратных комплексов. Мы планируем дальше масштабировать эти направления, так как видим растущую потребность у представителей российского бизнеса и внимательно следим за развитием технологий», — поделился Дмитрий Калинин, руководитель департамента по работе с уязвимостями и инцидентами ИБ компании «Бастион».