NIST выпускает Руководство по управлению рисками искусственного интеллекта

Руководство NIST по управлению рисками искусственного интеллекта

26 июля 2024 года Национальный институт стандартов и технологий США (NIST) выпустил четыре руководящих документа, три из которых являются окончательными версиями, а один — проектом, открытым для общественного обсуждения. Эти документы касаются разработки и внедрения искусственного интеллекта (ИИ) и направлены на управление рисками, связанными с ИИ, особенно генеративным ИИ (GAI).

Основные документы

1. Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile (RMF GAI):

• Этот документ описывает и определяет риски, связанные с генеративным ИИ, и предлагает методы управления этими рисками. Он включает рекомендации по управлению, разработке и внедрению ИИ, чтобы минимизировать потенциальные угрозы.

1. Secure Software Development Practices for Generative AI and Dual-Use Foundation Models (SSDF):

• Обновляет предыдущие руководства NIST по разработке программного обеспечения, добавляя рекомендации по безопасной разработке генеративного ИИ и моделей двойного назначения. Этот документ направлен на обеспечение безопасности и надежности программных продуктов, использующих ИИ.

1. Towards a Standard for Identifying and Managing Bias in Artificial Intelligence (SP 1270) (Final):

• Один из наиболее значимых документов, посвященный выявлению и управлению предвзятостью в ИИ. Он предлагает стандарты и лучшие практики для минимизации предвзятости в алгоритмах ИИ, что крайне важно для обеспечения справедливости и равенства в использовании ИИ.

1. NIST’s AI Risk Management Framework Playbook (Draft):

• Проект документа, который будет открыт для общественного обсуждения. В этом документе предложены детализированные инструкции и примеры для применения рамок управления рисками ИИ на практике. Планируется, что этот документ будет доработан с учетом полученных отзывов и предложений.

Важность управления рисками ИИ

С увеличением числа компаний, разрабатывающих и использующих ИИ, становится критически важным учитывать управление рисками и лучшие практики для решения таких проблем, как предвзятость в ИИ. Руководство NIST по управлению рисками ИИ и устранению предвзятости в ИИ будет полезно для тех, кто разрабатывает, использует или оценивает технологии ИИ. Документы написаны таким образом, чтобы быть понятными широкой аудитории, включая руководителей высшего звена и тех, кто не является профессионалами в области ИИ, при этом сохраняя техническую глубину для специалистов.

Принципы и структура

Руководство по управлению рисками ИИ (AI RMF 1.0), выпущенное 26 января 2023 года, является добровольным документом, предназначенным для управления и минимизации рисков, связанных с разработкой, внедрением и использованием продуктов и услуг на основе ИИ. Этот документ был разработан на основе консенсуса среди широкого круга заинтересованных сторон и предлагает важные принципы для ответственного управления ИИ.

Дополнительные ресурсы

NIST также выпустил сопутствующий справочник для навигации по рамкам, дорожную карту для будущих работ и сопоставление рамок с другими стандартами и принципами, как в США, так и за рубежом. Эти ресурсы предоставляют основу для ответственного управления ИИ и помогают организациям интегрировать ответственные практики и реализовать надежные и ответственные системы ИИ.

Заключение

Руководство NIST по управлению рисками ИИ представляет собой важный шаг к созданию надежных и ответственных систем ИИ. Оно предлагает организациям инструменты и рекомендации для управления рисками, связанными с ИИ, и способствует развитию инноваций в этой области. Эти документы помогут компаниям и другим организациям начать или улучшить свои подходы к управлению рисками ИИ, обеспечивая безопасность, надежность и справедливость технологий ИИ.

Таким образом, новые руководства NIST играют ключевую роль в формировании будущего ИИ, обеспечивая его безопасное и ответственное использование. Внедрение этих документов будет способствовать созданию более справедливых и надежных систем ИИ, которые смогут эффективно и безопасно интегрироваться в различные сферы нашей жизни.