Дорожная карта для искусственного интеллекта

Проблемы безопасности, связанные с ИИ, параллельны проблемам кибербезопасности, связанным с предыдущими поколениями программного обеспечения, которое производители создавали не для того, чтобы быть безопасным по замыслу, возлагая бремя обеспечения безопасности на заказчика. Хотя программные системы искусственного интеллекта могут отличаться от традиционных форм программного обеспечения, фундаментальные методы обеспечения безопасности по-прежнему применяются.

Как отмечается в знаковом указе 14110 “О безопасной разработке и использовании искусственного интеллекта (ИИ)”, подписанном президентом 30 октября 2023 года, “ИИ должен быть безопасным”. Как национальное агентство по киберзащите и национальный координатор по безопасности и отказоустойчивости критической инфраструктуры, CISA будет играть ключевую роль в устранении рисков и управлении ими на стыке искусственного интеллекта, кибербезопасности и критической инфраструктуры.

Дорожная карта CISA по развитию искусственного интеллекта

CISA разработала Дорожную карту для искусственного интеллекта, которая представляет собой общеведомственный план, согласованный с национальной стратегией в области искусственного интеллекта, для решения наших задач по: продвижению выгодного использования искусственного интеллекта для повышения возможностей кибербезопасности, обеспечению защиты систем искусственного интеллекта от киберугроз и предотвращению злонамеренного использования возможностей искусственного интеллекта для угрозы критически важной инфраструктуре, на которую американцы полагаются каждый день.

CISA будет реализовывать Дорожную карту по пяти направлениям деятельности:

Направление деятельности 1: Ответственно использовать искусственный интеллект для поддержки нашей миссии

CISA будет использовать программные средства с поддержкой искусственного интеллекта для усиления киберзащиты и поддержки своей миссии по критической инфраструктуре. Внедрение искусственного интеллекта CISA обеспечит ответственное, этичное и безопасное использование — в соответствии с Конституцией и всеми применимыми законами и политиками, включая те, которые касаются федеральных закупок, неприкосновенности частной жизни, гражданских прав и свобод.

Направление деятельности 2: Обеспечение систем искусственного интеллекта

CISA будет оценивать и помогать внедрению безопасного ПО на основе ИИ программного обеспечения широкому кругу заинтересованных сторон, включая федеральные гражданские правительственные учреждения; компании частного сектора; а также правительства штатов, местных, племенных и территориальных органов (SLTT) посредством разработки передовых практик и рекомендаций по разработке и внедрению безопасного и отказоустойчивого программного обеспечения для ИИ.

Направление деятельности 3: защита критически важной инфраструктуры от злонамеренного использования ИИ

CISA будет оценивать и рекомендовать меры по снижению угроз искусственного интеллекта, с которыми сталкивается критическая инфраструктура нашей страны, в партнерстве с другими правительственными учреждениями и отраслевыми партнерами, которые разрабатывают, тестируют и оценивают инструменты искусственного интеллекта.

Направление деятельности 4: сотрудничество и коммуникация по ключевым направлениям в области искусственного интеллекта с межведомственными органами, международными партнерами и общественностью

CISA будет вносить вклад в управляемые DHS и межведомственные процессы с использованием программного обеспечения с поддержкой искусственного интеллекта. Эта программа включает разработку политических подходов для общей национальной стратегии правительства США в области искусственного интеллекта и поддержку комплексного подхода DHS к вопросам политики в области программного обеспечения на основе искусственного интеллекта. Эта программа также включает координацию с международными партнерами для продвижения передовых практик и принципов глобальной безопасности в области искусственного интеллекта.

Направление деятельности 5: расширение знаний в области искусственного интеллекта среди наших сотрудников

CISA продолжит обучать наших сотрудников программным системам и методам искусственного интеллекта, а агентство продолжит активно набирать стажеров, стипендиатов и будущих сотрудников с опытом работы в области искусственного интеллекта. CISA обеспечит, чтобы внутреннее обучение отражало — и чтобы новые сотрудники понимали — юридические, этические и политические аспекты программных систем на основе искусственного интеллекта в дополнение к техническим аспектам.

Общеведомственный план CISA направлен на: содействие выгодному использованию искусственного интеллекта для повышения возможностей кибербезопасности, обеспечение защиты систем искусственного интеллекта от киберугроз и предотвращение злонамеренного использования возможностей искусственного интеллекта для создания угрозы критически важной инфраструктуре.