Защита генеративного ИИ: Новые угрозы требуют нового подхода к безопасности

Генеративный ИИ (GenAI) открывает огромные возможности для бизнеса, но также создает новые риски безопасности. Недавнее исследование IBM Institute for Business Value показало, что только 24% текущих проектов GenAI включают компонент безопасности, хотя 82% респондентов считают безопасный и надежный ИИ критически важным для успеха.

Киберпреступники уже используют GenAI для более изощренных фишинговых атак и утечек данных. По мере того, как решения на базе ИИ становятся все более распространенными и интегрированными в критическую инфраструктуру, они могут стать столь же уязвимыми, сколь и ценными, особенно если безопасность является запоздалой мыслью. Основные выводы отчета:

1. Ландшафт угроз для GenAI меняется и требует нового подхода к обеспечению безопасности. Помимо традиционных угроз, таких как вредоносное ПО и социальная инженерия, появляются новые векторы атак, специфичные для ИИ – инъекции подсказок, извлечение моделей, отравление данных и т.д. Организациям необходимо обновить свои модели управления рисками и процедуры реагирования на инциденты.
2. Безопасность ИИ должна строиться на основе управления, оценки рисков и соответствия требованиям (GRC). Это означает защиту приложений, использующих ИИ, данных для обучения моделей, самих моделей и их использования. Интеграция возможностей GRC в инициативы ИИ с самого начала может ускорить инновации и обеспечить соответствие новым нормативным требованиям, таким как Закон ЕС об ИИ.
3. Организации используют три основные модели внедрения GenAI, каждая из которых имеет свой профиль рисков и соображения безопасности: a. Использование сторонних приложений со встроенными возможностями GenAI. Здесь ключевые риски связаны с утечкой конфиденциальных данных организации в публичные модели. б. Создание решений GenAI на платформе с предварительно обученными моделями. Это требует защиты процессов обучения, разработки и вывода моделей. в. Создание собственных моделей и решений GenAI с нуля. Здесь критически важна зрелость практик безопасности данных организации и ответственного использования ИИ.
4. Для более чем 90% своих потребностей в безопасности GenAI организации обращаются к сторонним продуктам и партнерам, таким как поставщики управляемых услуг, экосистемные партнеры и гиперскейлеры. Как и в случае с переходом в облако, партнеры могут помочь оценить потребности и управлять результатами безопасности, восполнить пробелы в навыках.
5. Инструменты безопасности с поддержкой ИИ могут помочь преодолеть нехватку кадров, освободив персонал от трудоемких задач. Ведущие организации, внедряющие ИИ для безопасности, на треть сокращают время обнаружения инцидентов и как минимум на 18% снижают затраты, связанные с утечками данных.

Рекомендации по обеспечению безопасности конвейера ИИ:

1. Оценить: Определить стратегию безопасности ИИ, оценить зрелость базовых возможностей безопасности, выявить пробелы с помощью моделирования угроз, решить, где партнеры могут дополнить возможности.
2. Внедрить: Установить управление ИИ, приоритизировать безопасность по дизайну, защищать данные и управлять рисками поставщиков моделей ИИ, обеспечивать безопасный доступ к приложениям ИИ.
3. Мониторить: Проводить противоборствующее тестирование, аудиты безопасности, тесты на проникновение для выявления уязвимостей в среде ИИ.
4. Обучать: Проводить обучение по вопросам кибербезопасности для всех заинтересованных сторон, участвующих в разработке, развертывании и использовании моделей ИИ.

В целом, для того чтобы GenAI приносил пользу, обеспечивая при этом конфиденциальность, целостность и доступность данных, организациям необходимо приоритизировать безопасность с самого начала. Им следует использовать целостный подход, начиная с обновления стратегий управления, оценки рисков и соответствия требованиям, и заканчивая обеспечением безопасности инфраструктуры, данных, моделей и их использования. Партнеры играют ключевую роль, предоставляя передовые инструменты, опыт и помогая управлять результатами безопасности.