В отчете DHS подробно описывается потенциал ИИ по усилению биологических и химических угроз

Согласно отчету Министерства внутренней безопасности , опубликованному на прошлой неделе, искусственный интеллект потенциально может раскрыть злоумышленникам секреты разработки оружия массового уничтожения, особенно химических и биологических угроз.

Полный отчет, который был приурочен к выпуску в апреле информационного бюллетеня , рассматривает роль ИИ в содействии, но также и в пресечении усилий противников по исследованию, разработке и использованию химического, биологического, радиологического и ядерного оружия. Отчет был необходим в соответствии с указом президента Джо Байдена об искусственном интеллекте от октября 2023 года.

«Растущее распространение и возможности инструментов искусственного интеллекта… могут со временем привести к значительным изменениям в ландшафте угроз национальной безопасности США, в том числе за счет влияния на средства, доступность или вероятность успешной атаки ХБРЯ», — говорится в отчете DHS по противодействию оружию массового уничтожения. Об этом говорится в сообщении ведомства.

Согласно отчету, «известные ограничения в существующих в США правилах биологической и химической безопасности и их правоприменении в сочетании с более широким использованием инструментов искусственного интеллекта могут повысить вероятность как преднамеренных, так и непреднамеренных опасных результатов исследований, которые представляют риск для общественного здравоохранения и экономической безопасности». или национальная безопасность».

В частности, в докладе говорится, что распространение общедоступных инструментов искусственного интеллекта может снизить входной барьер для злоумышленников, ищущих информацию о составе, разработке и доставке химического и биологического оружия. Хотя доступ к лабораторным объектам по-прежнему является препятствием, в докладе отмечается, что так называемые «облачные лаборатории» могут позволить злоумышленникам удаленно разрабатывать компоненты оружия массового уничтожения в физическом мире, потенциально под прикрытием анонимности. 

CWMD рекомендовал США разработать руководство, охватывающее «тактическое исключение и/или защиту конфиденциальных химических и биологических данных» из общедоступных учебных материалов для больших языковых моделей, а также усилить контроль над доступом к лабораторным объектам с дистанционным управлением. 

В отчете также говорится, что необходимо специальное федеральное руководство, регулирующее использование инструментов биологического проектирования и моделей биологических и химических оснований. В идеале это руководство должно включать «практику детального выпуска» исходного кода и спецификацию расчетов веса, используемых для построения соответствующей языковой модели.

В более общем плане доклад направлен на достижение консенсуса в правительственных регулирующих органах США по поводу того, как управлять технологиями искусственного интеллекта и машинного обучения, особенно в том, что касается их пересечения с химическими и биологическими исследованиями.

Другие результаты включают в себя включение практики сообщения об уязвимостях «безопасной гавани» в организационные процедуры, практику внутренней оценки и усилий красной команды, культивирование более широкой культуры ответственности среди экспертных сообществ медико-биологических наук и ответственное исследование преимуществ, которые ИИ и машинное обучение могут иметь в биологической, химической и ядерный контекст. 

В отчете также предусматривается роль ИИ в смягчении существующих рисков ХБРЯ посредством обнаружения угроз и реагирования, в том числе посредством наблюдения за заболеваниями, диагностики и «многих других приложений, которые не были выявлены сообществами национальной безопасности и общественного здравоохранения».

Хотя выводы этого отчета не являются обязательными к исполнению, DHS заявило, что его содержание поможет сформировать будущую политику и цели в офисе CWMD. 

«В дальнейшем CWMD будет изучать способы практической реализации рекомендаций отчета с помощью существующих координационных групп федерального правительства и связанных с ними усилий под руководством Белого дома», — сообщил Nextgov/FCW представитель DHS . «Управление будет интегрировать анализ ИИ в установленные оценки угроз и рисков, а также в планирование и приобретение, которые оно выполняет от имени федеральных, государственных, местных, племенных и территориальных партнеров».