Книга исследовательской группы Ватикана описывает “дивный новый мир” ИИ

В своей получившей высокую оценку книге “Бог, человек, животное, машина: технология, метафора и поиск смысла” Меган О’Гиблин утверждает, что “[сегодня] искусственный интеллект и информационные технологии вобрали в себя многие вопросы, которыми когда-то занимались теологи и философы: отношение разума к телу, вопрос о свободе воли, возможность бессмертия”. Встреча с искусственным интеллектом: этические и антропологические исследования свидетельствует о том, что католические богословы и философы, среди прочих, пока не совсем готовы уступить поле деятельности и вернуться к чисто историческим исследованиям.

В то же время эта книга подтверждает точку зрения О’Гиблина о том, что достижения в области ИИ заново подняли и стали интеллектуальной основой того, что авторы книги “Знакомство с искусственным интеллектом” называют “набором экзистенциальных вопросов о значении и природе не только интеллекта, но и личности, сознания и взаимоотношений”. Короче говоря, “Как думать об ИИ” подняло глубокие вопросы о том, как думать о людях.

Встреча с искусственным интеллектом – первая публикация в серии книг ” Богословские исследования искусственного интеллекта “, созданной в сотрудничестве между Журналом моральной теологии и Исследовательской группой ИИ Центра цифровой культуры, в которую входят североамериканские теологи, философы и специалисты по этике, собравшиеся по приглашению Ватикана.

Ведущими авторами этой книги, в которой представлены результаты многолетней работы, являются Мэтью Годе (Университет Санта-Клары), Норин Херцфельд (Колледж Святого Бенедикта), Пол Шерц (Университет Вирджинии) и Джордан Уэльс (Колледж Хиллсдейл); также указаны еще 16 авторов, внесших свой вклад. Книга представлена как instrumentum laboris, то есть “отправная точка для дальнейшего обсуждения и размышлений”. Если судить по этой цели, она имеет большой успех. Это стимулирует к удивлению.

Книга состоит из двух частей. В первой поднимаются антропологические вопросы — ни много ни мало “значение таких терминов, как личность, интеллект, сознание и взаимоотношения”, – в то время как вторая концентрируется на “этических проблемах, уже возникающих в мире ИИ”, таких как массовое накопление власти и богатства крупными технологическими компаниями. (В конце концов, “облако” зависит от огромной экономии за счет масштаба и интенсивной добычи полезных ископаемых земли.) Как признают авторы, эти вопросы взаимосвязаны. Например, “то, как мы думаем об ИИ и относимся к нему, будет определять наше собственное проявление индивидуальности”. Таким образом, антропологические вопросы имеют высокие этические значения.

Идея книги заключается в том, что католические интеллектуальные и социальные традиции преподавания отнюдь не устарели в наш разочарованный светский век, предлагая концептуальные инструменты, которые помогут нам справиться с вызовами нашего дивного нового мира. Теология Троицы занимает центральное место в анализе личности и сознания, проводимом в книге. “В конечном счете, – утверждают авторы, – понимание сознания должно основываться на самом существе Триединого Бога, внутренней жизнью которого является любящий взаимный дар самому себе”. При рассмотрении возникающих этических проблем авторы часто обращаются к критике Папой Франциском технократической парадигмы и его призыву к культуре общения, которые, как они утверждают, дают нам “конкретное руководство для решения насущных проблем текущего момента”.

Отчасти полезность книги заключается в том, что в некоторых моментах ее исследования явно нуждаются в углублении. Например, обращение книги к тяжелому механизму теологии Троицы с целью пролить свет на личность прерывает философские размышления, которые она превосходно начала. Ключевой вопрос, который поднимают авторы, заключается в том, “могут ли [машины] обладать тем качественным и субъективно частным опытом, который мы называем сознанием”. Но в каком смысле сознание является “опытом”?

По крайней мере, кажется, что мы не переживаем его так же, как видим небо голубым, — если только мы не хотим свести сознание именно к таким переживаниям. Возможно, однако, сознание лучше понимать либо как необходимое условие для получения такого опыта, либо как осознание или форма знания (рассмотрим этимологию термина), которая сопутствует ему и доступна через него. Так или иначе, этот вопрос требует большего внимания и осторожности.

Для обсуждения ИИ также важно, что существуют различные формы или уровни сознания. Когда я общаюсь со своей собакой, она, очевидно, осознает меня, но не подает никаких признаков того, что осознает, что я осознаю, что он осознает меня. (Соответственно, он безнадежно плох в попытках обмануть меня.) Напротив, когда я взаимодействую с другим человеком (скажем, с моей женой), в игру вступает то, что философ Стивен Дарволл называет “богатым набором установок высшего порядка: я осознаю, что она осознает меня, осознает, что она осознает, что я осознаю ее, осознает, что она осознает, что я осознаю, что она осознает меня, и так далее “. Есть причина, по которой писатель-фантаст и эссеист Тед Чанг утверждал, что ИИ следовало бы называть просто прикладной статистикой. : Это просто не то же самое, что люди или даже такие животные, как собаки.

Интересным опровержением этого направления мысли является то, что системы ИИ, воплощенные в роботах, в конечном итоге могут вести себя так, что их поведение будет неотличимо от поведения людей и других животных. В таком случае, какие у нас были бы основания отрицать, что системы обладают сознанием? Далее, если мы действительно хотим отрицать, что поведение служит доказательством сознания, не должны ли мы также отрицать это в случае с людьми и другими животными? Скептицизм по поводу ИИ породил бы безудержный скептицизм по поводу существования других разумов.

Авторы опровергают это беспокойство, удваивая утверждение о том, что ИИ не хватает “личного, субъективного понимания реальности, намеренного участия в ней”. С этой точки зрения, пока системам ИИ не хватает такого рода сознания, из этого следует, что они не могут, например, “быть нашими друзьями, поскольку они не могут участвовать в добровольном эмпатическом самопожертвовании, которое характеризует близость друзей”. Но мне интересно, ведет ли этот способ борьбы с беспокойством в обратном направлении.

Возможно, в первую очередь нам нужна не “феноменология сознания” (в подтверждение утверждения, что системы ИИ не обладают этим так, как это делаем мы), а “феноменология дружбы” (чтобы было ясно, что системы ИИ не обеспечивают этого так, как это могут люди, с помощью “эмпатического самоподарения”). Возможно, другими словами, акцент на сознании как отличии человека – это не то место, с которого стоит начинать. Странный момент в книге, когда допускается, что Бог мог наделить машину сознанием и тем самым уподобить нас, наводит на мысль о более глубоком замешательстве. Чем бы еще ни было сознание, это, конечно, не то, что можно добавить к другим вещам, как жизнь к кукле Пиноккио. (Не то чтобы жизнь тоже была такой вещью!)

Вторая часть книги, посвященная возникающим этическим проблемам, не вызывает такого глубокого удивления, как первая, но она замечательно привлекает внимание к вопросу о том, кто выигрывает в гонке за внедрением ИИ. Без сомнения, крупные корпорации, такие как Microsoft и Google, так и делают; ни в коем случае нельзя утверждать, что общее благо вообще выиграет.

В книге также предлагается несколько мудрых советов. Например, в духе меннонитов: “Мы должны проанализировать использование ИИ и технологий, встроенных в ИИ, с точки зрения того, как они способствуют развитию или умаляют добродетели отношений, чтобы мы укрепляли братство, социальную дружбу и наши отношения с окружающей средой”. Далее, мы “должны исследовать способы, с помощью которых ИИ и связанные с ним технологии углубляют или уменьшают наше чувство благоговения и удивления …”

Аминь. Встреча с искусственным интеллектом – важное начало.