Международный научный отчет о безопасности передового ИИ: Промежуточный отчет

Данный документ представляет собой первый промежуточный отчет в рамках проекта “Международный научный отчет о безопасности продвинутого ИИ”. Он подготовлен международной группой из 75 экспертов в области искусственного интеллекта (ИИ), включая представителей 30 стран, Европейского Союза и ООН. Отчет фокусируется на типе ИИ, который в последние годы развивается особенно быстро – ИИ общего назначения, способном выполнять широкий спектр задач. Цель отчета – определить риски, связанные с ИИ общего назначения, и оценить технические методы их оценки и снижения. Полная версия первого отчета будет опубликована перед Саммитом по ИИ во Франции.

В отчете рассматриваются следующие основные темы:

1. Возможности современных систем ИИ общего назначения, тенденции их развития и факторы, определяющие прогресс в этой области. Отмечается значительная неопределенность в отношении темпов будущего прогресса.
2. Методология оценки и понимания систем ИИ общего назначения. Подчеркивается, что современные методы не позволяют дать надежные гарантии безопасности таких систем.
3. Риски, связанные с ИИ общего назначения, включая риски злонамеренного использования, сбоев, системные риски. Обсуждаются факторы, усугубляющие эти риски.
4. Технические подходы к снижению рисков, такие как обучение более надежных моделей, мониторинг, объяснение действий моделей, обеспечение справедливости и конфиденциальности. Отмечается, что ни один из существующих подходов не дает полных гарантий безопасности.

Основные моменты:

• ИИ общего назначения может принести большую пользу, но также создает риски причинения вреда из-за неисправностей или злонамеренного использования. По мере развития возможностей ИИ могут возникнуть более серьезные риски, хотя вероятность таких сценариев является предметом споров среди исследователей.
• Существует значительная неопределенность в отношении темпов будущего прогресса в области ИИ общего назначения. Некоторые эксперты считают замедление прогресса наиболее вероятным, в то время как другие допускают возможность чрезвычайно быстрого прогресса.
• Разработчики и регуляторы могут использовать различные технические методы для оценки и снижения рисков, связанных с ИИ общего назначения, но все они имеют ограничения. Например, современные методы объяснения того, почему модели ИИ общего назначения выдают тот или иной результат, имеют серьезные ограничения.
• Будущее технологии ИИ общего назначения неопределенно, в ближайшем будущем возможен широкий спектр траекторий развития, включая как очень позитивные, так и очень негативные результаты. Но ничто в будущем ИИ не является неизбежным. Именно решения обществ и правительств определят будущее ИИ.

Факты и цифры:

• По многим показателям возможности ИИ общего назначения быстро прогрессируют. Пять лет назад ведущие языковые модели ИИ редко могли создать связный абзац текста. Сегодня некоторые модели ИИ общего назначения могут последовательно вести многоходовые беседы на различные темы, писать короткие компьютерные программы, переводить между несколькими языками, успешно сдавать вступительные экзамены в университеты и обобщать длинные документы.
• В последние годы три основных фактора обусловили прогресс в области ИИ: увеличение вычислительной мощности (“вычислений”), используемой при обучении; увеличение объема обучающих данных; и совершенствование методов и алгоритмов ИИ. Ведущие компании в области ИИ делают ставку на то, что все три фактора будут и дальше способствовать улучшениям, особенно увеличение вычислительных мощностей. Если недавние тенденции сохранятся, то к концу 2026 года некоторые модели ИИ общего назначения будут обучаться с использованием в 40-100 раз большей вычислительной мощности, чем самые ресурсоемкие модели, опубликованные в настоящее время, в сочетании с методами обучения, которые используют эти вычисления в 3-20 раз более эффективно.
• Однако существуют потенциальные препятствия для дальнейшего быстрого увеличения как данных, так и вычислительных мощностей, включая ограниченную доступность данных, проблемы с производством чипов для ИИ, высокие общие затраты и ограниченные местные энергетические ресурсы. Компании, занимающиеся ИИ, работают над преодолением этих узких мест.

Вывод:
Будущее ИИ общего назначения неопределенно, в ближайшем будущем возможен широкий спектр траекторий развития, включая как очень позитивные, так и очень негативные результаты. Но ничто в будущем ИИ не является неизбежным. Именно решения обществ и правительств определят будущее ИИ. Этот промежуточный отчет направлен на содействие конструктивному обсуждению этих решений. Ставки высоки. Мы с нетерпением ждем продолжения этой работы.