GenAI: следующий рубеж в угрозах безопасности искусственного интеллекта

Субъекты угроз пока не атакуют генеративный ИИ (GenAI) в больших масштабах, но эти угрозы безопасности ИИ приближаются. Этот прогноз основан на индексе анализа угроз X-Force 2024 года. Вот обзор типов данных об угрозах, лежащих в основе этого отчета.

Киберпреступники меняют фокус внимания

Увеличение количества разговоров на незаконных рынках и форумах в темной Сети является признаком интереса. X-Force пока не видела ни одной кампании, разработанной с помощью искусственного интеллекта. Однако киберпреступники активно изучают эту тему. В 2023 году X-Force обнаружила, что термины “ИИ“ и ”GPT” упоминаются более чем в 800 000 постах на темных веб-форумах и нелегальных рынках. Такой высокий уровень активности обеспечивает точную оценку интереса. Возможно, эти атаки происходят не сейчас, но этот интерес указывает на подготовительную работу и этапы планирования.

Консолидация рынка искусственного интеллекта станет поворотным моментом

Участники угроз управляют преступными предприятиями, такими как бизнес. Прежде чем инвестировать в планы и инфраструктуру, они хотят гарантий рентабельности инвестиций. Сегодня слишком много инструментов и платформ GenAI разбросано по слишком большому количеству компаний. X-Force считает, что как только рынок созреет до уровня, когда одна технология будет доминировать на 50% доли рынка, или когда три или менее технологий захватят рынок, киберпреступники начнут атаки. Для достижения рентабельности инвестиций GenAI должен быть повсеместным на предприятиях по всему миру. Без повсеместности атаки отнимают слишком много времени и денег. Когда рынок сузится, атаки GenAI начнутся всерьез.

Прошлое – это пролог

Предыдущие угрозы имели схожие жизненные циклы. X-Force считает, что консолидация и зрелость рынка играют определенную роль. X-Force оценивает технологические сбои и зрелость угроз более десяти лет. Индекс этого года предлагает три убедительных примера, которые демонстрируют 50-процентную долю рынка milestone в циклах киберугроз. Их первый пример – доминирование на рынке Windows Server, которое привело к развитию вредоносного ПО для торговых точек (POS) и атак программ-вымогателей, управляемых человеком, которые опирались на Active Directory. Затем, когда доля Microsoft 365 на рынке приблизилась к 50%, мошенничество с компрометацией деловой электронной почты (BEC) вышло на передний план. Наконец, консолидация инфраструктуры как услуги (IaaS) привела к появлению вредоносных программ для майнинга криптовалют. Подробное описание этих примеров содержится в полном отчете, и с ними стоит ознакомиться.

Внедрение ИИ опередит меры безопасности

Как отмечается в отчете threat index, “спешка с внедрением GenAI в настоящее время опережает способность отрасли понимать риски безопасности, которые привнесут эти новые возможности”. Такое опережение характерно для новых технологий, потому что внедрение технологий, как правило, носит более свободный и экспериментальный характер на ранних этапах при меньшем контроле и регулировании внутри компании. Кроме того, чем новее технология, тем меньше компании осведомлены о потенциальных уязвимостях и о том, что потребуется для защиты от них. Часто дыры в безопасности становятся очевидными после атак.

Угрозы безопасности ИИ приближаются. Как вы можете подготовиться?

Повышение безопасности в эпоху ИИ является широко признанной необходимостью, поскольку угрозы безопасности ИИ множатся. Несмотря на то, что атаки GenAI пока не происходят в больших масштабах, время быстро приближается. Разработайте план реагирования на инциденты. Или, если у вас уже есть план IR, расширьте его, включив в него особенности, связанные с атаками ИИ. Эти особенности могут включать отслеживание известных уязвимостей и защиту от них, добавление членов группы реагирования, знакомых с ИИ, и усиление защиты данных для ваших моделей ИИ и наборов данных. Вам нужен план, адаптированный к вашему бизнесу, но целями должны быть сокращение времени реагирования, устранение ущерба и восстановление после атаки. Включите практические занятия и тренировки, чтобы подготовить вашу группу реагирования к тому, что эти атаки произойдут.

X-Force также рекомендует вам разработать бизнес-модели защищенного искусственного интеллекта, которые признают, что безопасность искусственного интеллекта шире, чем сам искусственный интеллект. Одной из моделей является IBM Framework для обеспечения безопасности генерирующего искусственного интеллекта. Эта платформа включает в себя защиту обучающих данных, моделей ИИ и инфраструктуры, которая поддерживает и то, и другое. Ключевым преимуществом ИИ является возможность разгрузить операционные бизнес-задачи. Управление ИИ обеспечивает оперативные ограждения, гарантирующие, что ваша модель ИИ не отклонится от своего первоначального замысла и будет действовать так, как ожидалось.