Папа Римский Лев XIV, с самого начала своего понтификата сделавший обсуждение искусственного интеллекта (ИИ) одним из приоритетов, в понедельник представил свою первую энциклику — послание по наиболее важным вопросам религиозной, нравственной, социальной и политической жизни — под названием «Magnifica Humanitas», что переводится как «Величественное человечество». Этот обширный документ объемом в 42 300 слов содержит призыв к регулированию технологий и формированию морально-этических рамок для защиты человечества на грядущие поколения.
70-летний Папа из США, по образованию математик, был избран на папский престол в мае 2025 года. «Защита человеческой личности в эпоху искусственного интеллекта», как гласит подзаголовок энциклики, стала центральным принципом его первого года на этом посту.
Публикация документа происходит в момент, который многие уже сравнивают с промышленной революцией по масштабам воздействия на труд и образ жизни. Компании, занимающиеся разработкой ИИ, включая OpenAI и Anthropic, стремительно развиваются и улучшают возможности своих моделей, разжигая дебаты о том, будет ли ИИ в конечном итоге более полезным или вредным для общества.
На фоне этих событий Папа Лев XIV определяет ИИ как «ценный инструмент, требующий бдительности». Он оспаривает концентрацию власти в руках технологических компаний и напрямую обращается к разработчикам. Документ имеет широкий охват, призывая к осторожности при применении ИИ в военных действиях и на рабочем месте, и, вероятно, станет краеугольным камнем для политиков и технологических компаний при выработке стратегий создания и регулирования этой технологии в ближайшие годы.
Призыв к "разоружению" ИИ
Один из посылов текста, уже привлекший внимание, — это призыв Папы Льва XIV к «разоружению ИИ». Хотя это может звучать как предостережение против военного использования искусственного интеллекта, его смысл гораздо шире.
«Разоружить означает дискредитировать предположение, что техническая мощь автоматически дает право управлять», — пишет Папа. — «Разоружить не означает отвергнуть технологии, но предотвратить их доминирование над человечеством. Это означает освобождение технологий от монополистического контроля и открытие их для обсуждения и дебатов, делая их таким образом дружественными человеку и возвращая их к многообразию человеческих культур и образа жизни».
ИИ и человеческие ценности
Данная энциклика — это больше, чем просто послание технологическим компаниям и Католической Церкви. Документ адресован всему человечеству, акцентируя внимание на «равном достоинстве всех людей», «высшей ценности прав человека» и «построении общего блага». Как для католиков, так и для некатоликов, «Magnifica Humanitas» предлагает идеи, вокруг которых люди по всему миру могут объединиться по мере того, как ИИ становится все более значимой частью нашей жизни.
Папа предостерегает от позволения тем, кто контролирует ИИ, диктовать и навязывать этические рамки для управления технологией. Вместо этого, по его словам, этика ИИ должна подчиняться «общим стандартам социальной справедливости» и открыто обсуждаться всеми людьми. «Более моральный ИИ недостаточен, если эта мораль определяется немногими», — подчеркивается в документе. Отмечается, что каждый должен иметь право голоса в определении роли ИИ в современном мире.
В энциклике также выражены соображения о том, как следует подходить к личному использованию ИИ. Скорость и простота использования инструментов искусственного интеллекта могут быть привлекательными, однако они способны «поощрять чрезмерную зависимость и поиск готовых ответов, ослабляя личную креативность и суждение».
Имитация позитивного человеческого общения со стороны ИИ может быть увлекательной и даже полезной в некоторых случаях, добавляет Папа. «Однако для менее разборчивых пользователей она может также вводить в заблуждение, создавая иллюзию отношений с реальным человеком». Это особенно рискованно, подчеркивается в документе, когда имитация заботы и поддержки происходит в условиях, где отсутствуют подлинные человеческие связи.
«Здесь опасность заключается не столько в том, что человек может поверить в общение с другим человеком, сколько в том, что он может постепенно потерять само желание формировать подлинные человеческие связи», — заявляет понтифик.