NTIA призывает к аудиту и инвестициям в надежные системы искусственного интеллекта. Отчет о политике подотчетности ИИ

ВАШИНГТОН – Национальное управление телекоммуникаций и информации Министерства торговли (NTIA) призвало к проведению независимого аудита систем искусственного интеллекта высокого риска в рамках серии рекомендаций, содержащихся в опубликованном сегодня отчете о политике подотчетности в области искусственного интеллекта.

Отчет о политике подотчетности в области искусственного интеллекта является одним из элементов работы NTIA по выполнению обязательства президента Байдена использовать возможности, предоставляемые ИИ, при одновременном управлении связанными с ним рисками. Политика подотчетности в области искусственного интеллекта сыграет ключевую роль в раскрытии потенциала этой технологии. Они помогут разработчикам и внедрителям систем искусственного интеллекта продемонстрировать, что их системы работают так, как задумано, и можно быть уверенным, что они не причинят вреда. Такие гарантии, в свою очередь, повысят доверие общественности и рынка к этим инструментам.

“Ответственные инновации в области искусственного интеллекта принесут огромные выгоды, но нам нужна подотчетность, чтобы раскрыть весь потенциал искусственного интеллекта”, – сказал помощник министра торговли по коммуникациям и информации и администратор NTIA Алан Дэвидсон. “Рекомендации NTIA по политике подотчетности в области искусственного интеллекта позволят предприятиям, регулирующим органам и общественности привлекать разработчиков ИИ к ответственности за риски, связанные с искусственным интеллектом, позволяя обществу использовать преимущества, которые предлагают инструменты искусственного интеллекта”.

В отчете содержится призыв к повышению прозрачности систем искусственного интеллекта, проведению независимых оценок для проверки заявлений, сделанных в отношении этих систем, и последствий введения неприемлемых рисков или предъявления необоснованных претензий.

В отчете о политике подотчетности в области искусственного интеллекта содержится восемь наборов политических рекомендаций по трем категориям для достижения этих целей: Руководство, поддержка и Нормативные акты.

Руководство:

• Аудиты и аудиторы: Федеральное правительство должно работать с заинтересованными сторонами над разработкой руководящих принципов для аудитов ИИ.
• Раскрытие информации: Федеральному правительству следует работать с заинтересованными сторонами над улучшением стандартного раскрытия информации, например, путем создания этикеток продуктов питания с искусственным интеллектом.
• Стандарты ответственности: Федеральное правительство должно работать с заинтересованными сторонами, чтобы дать рекомендации по применению существующих правил и стандартов ответственности к системам искусственного интеллекта, включая тех, кто несет ответственность за нанесение вреда системам искусственного интеллекта, и дополнять эти правила и стандарты по мере необходимости.

Поддержка

• Люди и инструменты: Федеральное правительство должно инвестировать в ресурсы, необходимые для удовлетворения национальной потребности в независимых оценках систем искусственного интеллекта, в том числе путем дальнейшей поддержки Института безопасности искусственного интеллекта США, создания и финансирования Национального исследовательского ресурса в области искусственного интеллекта и других политических инициатив.
• Исследования: Федеральные правительственные агентства должны способствовать созданию надежных и широко применимых инструментов для оценки того, когда используются системы искусственного интеллекта, на каких материалах они были обучены, и какими возможностями и ограничениями они обладают.

Правила

• Аудиты и другие независимые оценки: Федеральные агентства должны требовать проведения независимых аудитов и инспекций регулирующих органов классов моделей и систем искусственного интеллекта с высоким уровнем риска, таких как те, которые представляют высокий риск нанесения ущерба правам или безопасности.
• Повышение потенциала правительства во всех секторах: Федеральному правительству следует укрепить свой потенциал по устранению рисков и практик, связанных с искусственным интеллектом, во всех секторах экономики. Это может включать ведение реестров внедрений искусственного интеллекта высокого риска, неблагоприятных инцидентов с использованием искусственного интеллекта и системных аудитов.
• Заключение контрактов: Федеральное правительство должно требовать, чтобы государственные поставщики, подрядчики и грантополучатели применяли надежные методы управления ИИ и обеспечения гарантий.

Ознакомьтесь с информационным бюллетенем по политике подотчетности в области искусственного интеллекта

NTIA подготовило информационный бюллетень, который поможет заинтересованным сторонам легче ориентироваться в отчете о политике подотчетности в области искусственного интеллекта. Нажмите ниже, чтобы узнать больше.

Отчет подготовлен после более 1400 комментариев от заинтересованных сторон и представителей общественности, которые предложили предложения по созданию заслуженного доверия к системам искусственного интеллекта — комментарии, которые в конечном итоге помогли сформировать конечный продукт.

NTIA будет работать с заинтересованными сторонами частного сектора над созданием структур подотчетности, а также работать с другими органами государственной власти для поддержки политических рекомендаций, выдвинутых в отчете.

###

О Национальном управлении телекоммуникаций и информации   

Национальное управление телекоммуникаций и информации (NTIA), входящее в состав Министерства торговли США, является органом исполнительной власти, который консультирует президента по вопросам телекоммуникационной и информационной политики. Программы и разработка политики NTIA в основном сосредоточены на расширении широкополосного доступа в Интернет и его внедрении в Америке, расширении использования спектра всеми пользователями, продвижении коммуникаций в области общественной безопасности и обеспечении того, чтобы Интернет оставался двигателем инноваций и экономического роста.