Папа Римский Франциск опубликовал свое послание “ИИ и мудрость сердца: на пути к полностью человеческому общению”

Документ представляет собой послание Папы Римского Франциска, посвященное 58-му Всемирному дню социальных коммуникаций. В нем обсуждается влияние искусственного интеллекта на коммуникацию и человеческое сосуществование. Основное внимание уделяется необходимости сохранения полноценной человеческой коммуникации в эпоху ИИ, основанной на “мудрости сердца”. Папа рассматривает как возможности, так и опасности, связанные с ИИ, выступая за этическое регулирование и ориентированный на человека подход к технологиям. Он призывает к развитию мудрости и различения, чтобы убедиться, что ИИ служит улучшению, а не уменьшению человеческой коммуникации и благополучия общества.

Перевод на русский:

Искусственный интеллект и мудрость сердца:

К полностью человеческому общению

Дорогие братья и сестры!

Развитие систем искусственного интеллекта, которому я посвятил свое недавнее послание к Всемирному дню мира, радикально влияет на мир информации и коммуникации и, через него, на некоторые основы жизни в обществе. Эти изменения касаются всех, не только профессионалов в этих областях. Быстрое распространение удивительных инноваций, чьи принципы работы и потенциал непонятны большинству из нас, оказалось одновременно захватывающим и дезориентирующим. Это неизбежно приводит к более глубоким вопросам о природе человека, нашей уникальности и будущем видасапиенс в эпоху искусственного интеллекта. Как нам оставаться полностью человечными и направлять эту культурную трансформацию на благое дело?

Начиная с сердца

Прежде всего, нам нужно отказаться от катастрофических предсказаний и их оцепеневающего эффекта. Столетие назад Романо Гуардини размышлял о технологиях и человечестве. Гуардини призывал нас не отвергать “новое” в попытке “сохранить прекрасный мир, обреченный на исчезновение”. В то же время он пророчески предупреждал, что “мы постоянно находимся в процессе становления. Мы должны вступить в этот процесс, каждый своим путем, с открытостью, но также с чувствительностью ко всему разрушительному и нечеловечному в нем”. И он заключил: “Это технические, научные и политические проблемы, но они не могут быть решены, если не исходить из нашей человечности. Должен сформироваться новый вид человека, наделенный более глубокой духовностью и новой свободой и внутренностью”.

В наше время, которое рискует стать богатым на технологии и бедным на человечность, наши размышления должны начинаться с человеческого сердца. Только приняв духовный взгляд на реальность, только восстановив мудрость сердца, мы сможем столкнуться и интерпретировать новизну нашего времени и вновь открыть путь к полностью человеческому общению. В Библии сердце рассматривается как место свободы и принятия решений. Оно символизирует целостность и единство, но также вовлекает наши эмоции, желания, мечты; прежде всего, это внутреннее место нашей встречи с Богом. Таким образом, мудрость сердца – это добродетель, позволяющая нам интегрировать целое и его части, наши решения и их последствия, наше благородство и нашу уязвимость, наше прошлое и наше будущее, нашу индивидуальность и наше членство в более широком сообществе.

Эта мудрость сердца открывается тем, кто ее ищет, и становится видимой для тех, кто ее любит; она предвосхищает тех, кто желает ее, и идет на поиски тех, кто достоин ее. Она сопутствует тем, кто готов принять совет, тем, кто наделен послушным и внимательным сердцем. Дар Святого Духа, он позволяет нам смотреть на вещи глазами Бога, видеть связи, ситуации, события и раскрывать их истинное значение. Без такой мудрости жизнь становится блеклой, поскольку именно мудрость дает “вкус” жизни.

Возможности и опасности

Такую мудрость нельзя искать в машинах. Хотя термин “искусственный интеллект” сейчас вытеснил более корректный термин “машинное обучение”, использование слова “интеллект” может вводить в заблуждение. Несомненно, машины обладают безгранично большей способностью, чем человек, к хранению и корреляции данных, но только человек способен придавать этим данным смысл. Речь идет не просто о том, чтобы сделать машины более похожими на человека, но о пробуждении человечества от сна, вызванного иллюзией всемогущества, основанной на вере в полную автономию и самодостаточность, отрыв от всех социальных связей и забвение о нашем статусе творений.

Человек всегда осознавал, что он не самодостаточен, и стремился преодолеть свою уязвимость, используя все возможные средства. От самых ранних доисторических артефактов, используемых как продолжения рук, до средств массовой информации, используемых как продолжение устного слова, мы теперь стали способны создавать высокосложные машины, которые служат поддержкой мышления. Однако каждый из этих инструментов может быть использован неправильно из-за первородного искушения стать “подобным Богу без Бога”, то есть стремления по собственным усилиям достичь того, что вместо этого должно быть свободно принято как дар от Бога, чтобы наслаждаться им в обществе с другими.

В зависимости от настроения сердца все, что находится в нашем распоряжении, становится либо возможностью, либо угрозой. Наши тела, созданные для общения и общности, могут стать средством агрессии. Так же и каждое техническое расширение нашей человечности может быть средством любящего служения или враждебного доминирования. Системы искукусственного интеллекта могут помочь преодолеть невежество и облегчить обмен информацией между разными народами и поколениями. Например, они могут сделать доступным и понятным огромное наследие письменных знаний прошлых эпох или обеспечить общение между людьми, не говорящими на одном языке. Однако в то же время они могут быть источником “когнитивного загрязнения”, искажения реальности частично или полностью ложными повествованиями, которые верят и распространяют, как будто они являются правдой. Нам достаточно вспомнить давнюю проблему дезинформации в виде фейковых новостей, которые сегодня могут использовать “дипфейки”, то есть создание и распространение изображений, которые выглядят абсолютно правдоподобно, но являются ложными (и я сам стал объектом таких), или аудиосообщений, использующих голос человека для высказываний, которые этот человек никогда не говорил. Технология симуляции, лежащая в основе этих программ, может быть полезной в определенных конкретных областях, но становится извращенной, когда искажает наши отношения с другими людьми и с реальностью.

Начиная с первой волны искусственного интеллекта, связанной с социальными сетями, мы испытали ее двойственность: ее возможности, но также ее риски и связанные с ней патологии. Второй уровень генеративного искусственного интеллекта несомненно представляет собой качественный скачок. Поэтому важно понимать, ценить и регулировать инструменты, которые в неправильных руках могут привести к тревожным сценариям. Как и любой другой продукт человеческого интеллекта и умения, алгоритмы не нейтральны. Поэтому существует необходимость действовать предупредительно, предлагая модели этического регулирования, чтобы предотвратить вредные, дискриминационные и социально несправедливые последствия использования систем искусственного интеллекта и бороться с их неправомерным использованием для сокращения плюрализма, поляризации общественного мнения или создания форм мышления группы. Я вновь обращаюсь к международному сообществу “работать вместе, чтобы принять обязывающий международный договор, регулирующий разработку и использование искусственного интеллекта в его многочисленных формах”. В то же время, как и в любом человеческом контексте, регулирование само по себе недостаточно.

Рост в человечности

Всех нас призывают расти вместе, в человечности и как человечество. ММы призваны к качественному скачку, чтобы стать сложным, многоэтническим, плюралистическим, многорелигиозным и мультикультурным обществом. Нам предстоит тщательно обдумать теоретическое развитие и практическое использование этих новых инструментов коммуникации и знания. Их большие возможности для добра сопровождаются риском превращения всего в абстрактные расчеты, которые сводят людей к данным, мышление к механическому процессу, опыт к изолированным случаям, доброту к прибыли и, прежде всего, отрицание уникальности каждого индивида и его истории. Конкретика реальности растворяется в потоке статистических данных.

Цифровая революция может принести нам большую свободу, но не если она будет заключать нас в модели, которые сегодня называют “эхо-камерами”. В таких случаях, вместо увеличения плюрализма информации, мы рискуем оказаться в тупике путаницы, стать жертвами интересов рынка или действующих сил. Неприемлемо, чтобы использование искусственного интеллекта приводило к единомыслию, к сбору непроверенных данных, к коллективному уклонению от ответственности в редактировании. Представление реальности в “больших данных”, хотя и полезно для работы машин, в конечном итоге ведет к значительной потере истины вещей, мешая межличностному общению и угрожая нашей самой человечности. Информация не может быть отделена от живых отношений. Эти отношения включают в себя тело и погружение в реальный мир; они включают корреляцию не только данных, но и человеческих переживаний; они требуют чувствительности к лицам и выражениям лица, сострадания и совместного переживания.

Здесь я думаю о репортажах о войнах и “параллельной войне”, которая ведется через кампании дезинформации. Я также думаю о всех репортерах, которые были ранены или убиты на службе, чтобы мы могли видеть то, что видели они сами. Только благодаря такому непосредственному контакту с страданиями детей, женщин и мужчин мы можем оценить абсурдность войн.

Использование искусственного интеллекта может внести положительный вклад в сектор коммуникаций, при условии, что оно не устранит роль журналистики на местах, а будет служить ей поддержкой. При условии также, что оно будет ценить профессионализм в коммуникации, делая каждого коммуникатора более осведомленным о своих обязанностях, и позволит всем людям быть, как им следует, осознанными участниками процесса коммуникации.

Вопросы насегодня и на будущее

В этой связи естественным образом возникает ряд вопросов. Как мы можем защитить профессионализм и достоинство работников в области информации и коммуникации, а также пользователей по всему миру? Как мы можем обеспечить взаимодействие платформ? Как мы можем побудить компании, разрабатывающие цифровые платформы, принимать на себя ответственность за контент и рекламу так же, как редакторы традиционных средств массовой информации? Как мы можем сделать более прозрачными критерии работы алгоритмов для индексации и деиндексации, а также поисковых систем, способных прославлять или отменять личности и мнения, истории и культуры? Как мы можем гарантировать прозрачность обработки информации? Как мы можем определить авторство текстов и отслеживаемость источников, скрытых за анонимностью? Как мы можем убедиться, что изображение или видео отображают событие или симулируют его? Как мы можем предотвратить сокращение источников до одного, тем самым способствуя развитию единой точки зрения, основанной на алгоритме? Как вместо этого мы можем способствовать созданию среды, подходящей для сохранения плюрализма и отображения сложности реальности? Как мы можем сделать устойчивой такую мощную, дорогостоящую и энергоемкую технологию? И как мы можем сделать ее доступной также для развивающихся стран?

Ответы на эти и другие вопросы определят, приведет ли искусственный интеллект к созданию новых каст на основе доступа к информации и, таким образом, к появлению новых форм эксплуатации и неравенства. Или же он приведет к большему равенству, способствуя правильному информированию и более глубокому осознанию эпохального изменения, которое мы переживаем, позволяя признавать многочисленные потребности отдельных лиц и народов в рамках хорошо структурированной и плюралистической информационной сети. Если, с одной стороны, мы можем увидеть призрак новой формы рабства, то с другой стороны, мы также можем представить себе средство большей свободы; либо возможность, что избранные могут условить мышление других, либо что все люди могут участвовать в развитии мысли.

Ответ на эти вопросы не предопределен; он зависит от нас. От нас зависит, станем ли мы кормом для алгоритмов или будем питать наши сердца той свободой, без которой мы не можем расти в мудрости. Такая мудрость созревает благодаря мудрому использованию времени и принятию наших уязвимостей. Она растет в завете между поколениями, между теми, кто помнит прошлое и кто, кто смотрит вперед, в будущее. Только вместе мы сможем увеличить нашу способность к различению и бдительности, к видению вещей в свете их завершения. Чтобы наше человечество не потеряло ориентиры, давайте искать мудрость, которая была прежде всех вещей: она поможет нам также поставить системы искусственного интеллекта на службу полностью человеческому общению.