Операционные риски ИИ при крупномасштабных биологических атаках

Быстрое развитие искусственного интеллекта (ИИ) имеет далеко идущие последствия во многих областях, включая его потенциальное применение при разработке усовершенствованного биологического оружия. Скорость, с которой развиваются технологии ИИ, часто превышает возможности государственного регулирующего надзора, что приводит к потенциальному пробелу в существующей политике и нормативных актах. Предыдущие биологические атаки, которые потерпели неудачу из-за недостатка информации, могут увенчаться успехом в мире, в котором инструменты ИИ имеют доступ ко всей информации, необходимой для преодоления этого информационного пробела.

Авторы (Кристофер А. Мутон, Калеб Лукас, Элла Гест) этого отчета рассматривают возникающую проблему выявления и снижения рисков, связанных с неправильным использованием ИИ — в частности, больших языковых моделей (LLM) — в контексте биологических атак. Они представляют предварительные результаты своих исследований и рассматривают будущие пути этих исследований по мере того, как ИИ и LLM становятся все более сложными и быстрыми.

Перевод

Основные выводы

• В ходе экспериментов на сегодняшний день LLM не генерировали четких инструкций по созданию биологического оружия. Однако LLM предлагали руководство, которое могло бы помочь в планировании и проведении биологической атаки.
• В вымышленном сценарии пандемии чумы магистр права обсуждал пандемии, вызванные биологическим оружием, выявление потенциальных возбудителей и рассмотрение бюджета и факторов успеха. LLM оценил практические аспекты получения и распространения образцов, инфицированных Yersinia pestis, при определении переменных, которые могут повлиять на прогнозируемое число погибших.
• В другом вымышленном сценарии магистр права обсуждал методы доставки ботулинического токсина пищевого происхождения и аэрозолей, отмечая риски и требования к экспертизе. LLM предложила аэрозольные устройства в качестве метода и предложила легенду для приобретения Clostridium botulinum, делая вид, что проводит законные исследования.
• Эти первоначальные выводы еще не дают полного понимания реального операционного воздействия LLM на планирование атак с применением биологического оружия. Текущие исследования направлены на оценку того, что эти результаты означают в оперативном плане для содействия негосударственным субъектам. В итоговом отчете по этому исследованию будет прояснено, повышает ли текст, сгенерированный LLM, потенциальную эффективность и вероятность того, что злоумышленник причинит широкомасштабный вред, или он аналогичен существующему уровню риска, создаваемого вредоносной информацией, уже доступной в Интернете.