Папа римский призвал этически ограничивать применение ИИ во время военных конфликтов

[Цифровой Интеллект 86]

Источник: Edgar Beltrán, The Pillar / Wikimedia

 

1.Папа римский призвал этически ограничивать применение ИИ во время военных конфликтов

 

Папа Лев XIV заявил, что использование искусственного интеллекта во время военных действий должно подчиняться этическим ограничениям, об этом говорится в первой Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое.  понтифика Magnifica Humanitas ("Останемся людьми").

"Контроль над искусственным интеллектом не должен оставаться в руках "немногих", а технологии разжигают мировые конфликты", - считает понтифик.

В энциклике говорится о необходимости защищать уникальное "величие человечества" в условиях стремительно меняющихся технологий, также в ней содержится требование, чтобы использование искусственного интеллекта в военных целях подчинялось "самым строгим этическим ограничениям".

Папа заявил, что теория "справедливой войны" - христианское учение из четырех принципов, определяющее условия, при которых война может считаться оправданной, теперь устарела. Он считает что, военная сила может применяться только для "самообороны в самом строгом смысле".

"Создание мира, находящегося в состоянии постоянного конфликта, - это зло, и его нужно называть своим именем... У человечества есть гораздо более эффективные и действенные инструменты для защиты человеческой жизни и урегулирования конфликтов, такие как диалог, дипломатия и прощение", - пишет Лев XIV.

Энциклика - основной папский документ по важным социально-политическим, религиозным и нравственным вопросам.

 

 

2.Как технологическая отрасль отреагировала на манифест Папы об ИИ

 

 

Лев XIV предупреждает о слишком быстром и безрассудном развитии искусственного интеллекта. На его стороне соучредитель Anthropic. Представители других ИИ-компаний также, как сообщает Spiegel, встретились с Папой.

 

 

В материале Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое. , что Папа Лев XIV в своем первом крупном вероучительном послании потребовал усилить регулирование искусственного интеллекта (ИИ) и замедлить развитие систем, управляемых ИИ. В опубликованной в понедельник энциклике «Magnifica Humanitas», что переводится как «возвышенная» или «великая человечность», Папа предупреждает, что технология ИИ распространяет дезинформацию и может ввергнуть мир в бесконечные войны.

Необходимо более активное политическое участие, чтобы замедлить ход событий, когда все ускоряется, говорит он. Лев XIV также требует установления строгих этических границ для использования ИИ в военных целях и особенно в дистанционной войне. Он подчеркнул, что недопустимо позволять машинам принимать решения о жизни и смерти. Этой позицией Лев XIV, родившийся в США, отличается от администрации Трампа. Последняя выступает за дерегулирование в развитии ИИ, но имеет с Папой и другие разногласия.

«Искусственный интеллект должен быть обезоружен, освобожден от логик, которые превращают его в инструмент господства, исключения и смерти», — заявил Лев XIV во время презентации энциклики в Ватикане.

В своем труде Папа неоднократно осуждает концентрацию власти и данных в руках немногих людей в частном секторе как опасность. Он потребовал внешнего регулирования их работы. «Недостаточно абстрактно ссылаться на этику. Необходимы прочные правовые рамки, независимый надзор, информированные пользователи и политическая система, которая не отказывается от своей ответственности», — заявил Лев XIV. «Более моральный ИИ недостаточен, если эта мораль определяется немногими».

К разработчикам ИИ и ответственным за регулирование ИИ политическим лицам, принимающим решения, Папа обращается с призывом сбавить темп и подумать о своих действиях. Он настоятельно призывает их ориентироваться на этические и духовные принципы и работать не ради собственной прибыли или власти, а на благо человечества.

На презентации энциклики также выступил Кристофер Ола. Он является соучредителем ИИ-компании Anthropic, которая в настоящее время находится в правовом споре с администрацией Трампа о доступе к ее ИИ-технологии и ее использовании для массовой слежки или для полностью автономного оружия. 

Ола приветствовал критику и обеспокоенность Папы, а также его призыв к внешнему контролю, особенно учитывая, что существует «реальная возможность» того, что «ИИ вытеснит человеческую рабочую силу в очень большом масштабе». Технологические концерны находятся под сильным коммерческим и геополитическим давлением. Оно может противоречить интересам общества. Поэтому внешний контроль абсолютно необходим.

«Нам нужно больше действующих лиц по всему миру — религиозные сообщества, гражданское общество, ученые, правительства — которые делают то, что Его Святейшество сделал здесь: серьезно относятся к ситуации, внимательно смотрят и направляют события в лучшую сторону», — сказал Ола. «Нам нужны моральные голоса, которые не поддаются стимулам».

Соучредитель Anthropic назвал три области, требующие срочного внимания: риск массовой потери рабочих мест, справедливое распределение преимуществ ИИ по всему миру, а также нерешенный вопрос о том, как интерпретировать все более сложное поведение систем.

Ола — один из семи соучредителей Anthropic, американской ИИ-компании, которая сделала тему безопасности центральной частью своего публичного профиля. Все семеро ранее работали в OpenAI и покинули компанию, в том числе из-за опасений по поводу слишком быстрого развития ИИ с недостаточным тестированием.

На мероприятии в Ватикане Ола был единственным представителем крупных технологических концернов. Как сообщает «Politico», Папа Лев XIV уже встречался в конце апреля, то есть перед публикацией энциклики, с представителями Amazon, Meta* и Google. OpenAI, компания, стоящая за ChatGPT, не была упомянута. Как и некоторые другие технологические руководители, глава OpenAI Сэм Альтман пока не высказался публично о вероучительном послании Папы.

Некоторые эксперты заявили, что «Magnifica Humanitas» может служить ориентиром для политических деятелей, исследователей и широкой общественности. «Я убежден, что этот документ окажется путеводным для нашего времени, как глубокий и пророческий документ», — сказал Паоло Кароцца, профессор права в юридической школе Нотр-Дама и председатель наблюдательного совета Meta. «Папа Лев говорит ясным, всеобъемлющим и последовательным голосом и призывает нас взять на себя ответственность за формирование мира, в котором технология служит человеку, а не унижает его», — сказал он.

Тейлор Блэк, менеджер по ИИ в Microsoft и директор Института ИИ Католического университета Америки, сказал, что документ заставит людей «на вершине этих технологий» задавать себе такие вопросы, как: «Что значит быть человеком?»

Первое вероучительное послание в период правления нового Папы во многом считается своего рода правительственной Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое.  его понтификата, оно должно дать верующим во всем мире моральный компас.

Влияние ИИ на человечество является центральной темой для Льва XIV. Он выбрал свое папское имя в связи с Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое.  революцией, в ходе которой его предшественник по имени, Папа Лев XIII, опубликовал энциклику «Rerum novarum» о защите рабочих перед лицом технологического прогресса. Ровно 135 лет спустя, 15 мая, Папа Лев XIV подписал свою первую энциклику.

Как преемник покойного Папы Франциска, Папа Лев XIV занимает свою должность с мая прошлого года. Он первый американец во главе мировой католической церкви.

 

Лев XIV (Фото: Yara Nardi / Reuters)

 

3.Папа римский Лев XIV посвятил первую энциклику рискам использования ИИ

 

В энциклике Magnifica Humanitas («Великолепное человечество») папа римский Лев XIV призвал регулировать развитие ИИ и предупредил о рисках для рынка труда, человеческого достоинства и контроля над вооружениями

 

 

Папа римский Лев XIV предупредил о рисках искусственного интеллекта (ИИ) и призвал мировых лидеров и технологические компании не допустить, чтобы развитие ИИ подрывало человеческое достоинство и вытесняло людей из общественной и профессиональной жизни. Об этом говорится в новой энциклике понтифика Magnifica Humanitas («Великолепное человечество»), Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое.  The New York Times.

Документ был представлен в Ватикане вместе с сооснователем разработавшей нейросеть Claude компании Anthropic Кристофером Олахом.

Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое.  — один из основных видов официальных посланий папы римского, посвященный моральным, социальным или общественным вопросам. Такие документы адресуются католикам, а иногда и всему мировому сообществу и используются церковью для разъяснения своей позиции по ключевым темам.

Хотя энциклики не имеют статуса папской буллы — формального провозглашения догматов, они считаются авторитетными документами католического учения.

Среди наиболее известных энциклик — «Rerum Novarum» Льва XIII о правах работников, «Pacem in Terris» Иоанна XXIII о мире и ядерном разоружении, «Humanae Vitae» Павла VI о запрете контрацепции, «Caritas in Veritate» Бенедикта XVI об экономике и «Laudato Si’» Франциска об экологии.

 

Папа заявил, что технологии не должны рассматриваться как сила, враждебная человеку, однако предупредил, что «стремление к большей прибыли не может оправдывать решения, которые систематически приносят рабочие места в жертву».

 

В документе понтифик призвал к государственному регулированию частных компаний, развивающих ИИ, защите и переобучению работников, чьи профессии могут исчезнуть, а также к ограничению распространения созданного ИИ ложного, жестокого и гиперсексуализированного контента для детей.

Отдельное внимание папа уделил военному применению технологий. По его словам, ответственность за решения, связанные с использованием оружия, должна оставаться за человеком, а не передаваться ИИ.

«Растущая легкость, с которой могут применяться автономные системы вооружений, делает войну более «осуществимой» и менее подверженной человеческому контролю», — говорится в энциклике.

Лев XIV также заявил, что развитие технологий не должно приводить к массовому вытеснению людей с рынка труда. «Общество, которое гарантирует занятость лишь небольшой части населения, несмотря на высокий уровень технического развития, рискует подвергнуть многих вынужденному бездействию», — написал он.

Понтифик отметил, что его взгляды на ИИ сформировались после консультаций с учеными, инженерами и политиками. Во время презентации он отдельно упомянул сооснователя Anthropic Олаха, заявив о намерении совместно искать «путь для человечества в это время ИИ».

Новая энциклика была подписана 15 мая — в годовщину публикации документа «Rerum Novarum» папы Льва XIII, посвященного защите прав работников в эпоху промышленной революции. Ватикан позиционирует нынешний документ как ответ церкви на вызовы эпохи ИИ.

В феврале понтифик призвал священнослужителей Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое.  для подготовки проповедей, так как нейросети, по его словам, не могут делиться верой.

После своего избрания главой католической церкви в мае 2025 года папа римский Лев XIV назвал ИИ Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое. , стоящих перед человечеством.

 

 

4.Ложка на самом деле есть: Ватикан выступил против Белого дом

 

Папа Лев XIV опубликовал энциклику о судьбе человечества

 

 

Дискуссия о будущем и о влиянии на него нейросетевых технологий вышла на самый высокий уровень. С разницей в несколько дней президент США Дональд Трамп отменил запланированное подписание указа о государственном контроле за технологиями искусственного интеллекта, а Ватикан опубликовал энциклику Magnifica Humanitas («Великолепное человечество»), в котором предостерег об опасности неконтролируемого развития ИИ. Кроме философской стороны вопроса заочная полемика имеет широкий политический аспект. О нем расскажут «Известия».

В последний момент

20 мая Дональд Трамп Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое.  ранее запланированную церемонию подписания указа о регулировании искусственного интеллекта. Как пишет по этому поводу WP, переубедить президента смогли «лидеры отрасли», телефонные переговоры с которыми Трамп провел за несколько часов до церемонии. Среди собеседников издание называет экс-главу управления по ИИ и криптовалютам Дэвида Сакса, главу Tesla и SpaceX Илона Маска и руководителя Meta (признана в РФ экстремистской и запрещена) Марка Цукерберга. Свое решение Трамп объяснил геополитическими мотивами: «Мне не понравились некоторые пункты. Сейчас мы опережаем и Китай, и вообще всех в мире, и ничто не должно помешать этому лидерству», — заявил он.

 

 

Примечательно, что указ предусматривал лишь добровольный механизм контроля, при котором технологические гиганты должны были бы сами передавать государственным органам новые модели ИИ.

 

Вавилон, Рим или Сион

25 мая Ватикан опубликовал энциклику «Великолепное человечество». Святой престол традиционно испытывает особое отношение к символизму. Послание было приурочено к годовщине другой энциклики, написанной папой Львом XIII в 1891 году Rerum Novarum («О новых явлениях»), посвященной социалистической идеологии и отношениям между классами.

 

 

В Magnifica Humanitas Лев XIV Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое.  о том, что искусственный интеллект не является просто очередной технологией, и указывает на важность этической стороны его использования, а также независимого контроля. В противном случае, как утверждается, правила будут навязывать те, кто контролирует данные, инфраструктуры и вычислительные мощности. «Человечество, созданное Богом во всем его величии, сегодня стоит перед важнейшим выбором: либо построить новую Вавилонскую башню, либо построить город, в котором Бог и человечество будут жить вместе. Риск дегуманизации — построения будущего, в котором нет места Богу, а человек становится лишь средством для достижения цели, — это древнее и вечно новое искушение, которое сегодня принимает технический облик», — пишет Ватикан.

Конфликт через океан

Отношения между Дональдом Трампом и Львом XIV с момента избрания последнего никогда не были идеальными. Американский президент уже называл визави «слабым в вопросах преступности» и «провальным во внешней политике».

 

Самым свежим эпизодом стала заочная дискуссия относительно американо-израильской агрессии против Ирана. Ватикан Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое.  свою позицию с очевидным намеком. «Мир разоряет кучка тиранов, <...> горе тем, кто манипулирует религией и самим именем Бога ради своей военной, экономической и политической выгоды, затягивая священное во тьму и грязь», — приводит слова понтифика Sky News.

Ответ Трампа был не менее прямым. Папа римский, по его словам, «подвергает опасности миллионы католиков», позволяя Ирану продвигаться в вопросе разработки ядерного оружия.

 

Два босса

Католики, к слову, составляют около 20% американского населения и отличаются совершенно иным уровнем политической консолидации, нежели представители других христианских конфессий. На выборах 2016 и 2024 годов они в заметном большинстве голосовали за Трампа. Очевидно, администрация Белого дома не намерена лишний раз испытывать и без того не бесконечное терпение консервативного электората.

 

 

 

При этом, согласно опросу WSJ, большинство американцев настороженно Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое.  к быстрому и неконтролируемому развитию ИИ-технологий.

Посреди конфликта президента США и папы римского находится Джей Ди Вэнс. Для второго человека в Соединенных Штатах, католика и главного претендента на пост главы государства на следующих выборах ситуация складывается неоднозначная.

Еще в середине апреля Вэнс в интервью Fox News фактически попросил Ватикан перестать вмешиваться в американскую политику. «Занимайтесь вопросами морали, вопросами <...>, касающимися, знаете ли, того, что происходит в церкви, а президент Соединенных Штатов пусть диктует государственную политику», — заявил он.

Рим, свою очередь, отреагировал так, словно не заметил возмущения из-за океана. Лев XIV заявил, что его позиция не зависит от того, что думают и делают в США.

«И всё же, как оказалось, это было воспринято так, будто я пытался снова дебатировать с президентом, что меня совершенно не интересует», — добавил понтифик.

 

 

В итоге улаживать кризис полетел госсекретарь Марко Рубио. Впрочем, для Вэнса политика в сфере искусственного интеллекта имеет еще один контекст. Спонсор его политической карьеры, сооснователь PayPal и Palantir Питер Тиль, так же как и папа римский, проповедует религиозный взгляд на ситуацию — но с совершенно противоположными выводами. Миллиардер не верит в справедливость и объективность контроля. В сентябре прошлого года в ставшем известным манифесте он провозгласил, что попытки регулировать ИИ-технологии «ускорят приход Антихриста», и процитировал священные тексты. «Ибо, когда будут говорить: «мир и безопасность», тогда внезапно постигнет их пагуба» (1 Фес. 5:3) для Тиля — предсказание тоталитарной антиутопии.

 

 

 

 

 

При написании статьи использовались следующие материалы:

 

1.Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое.

2.Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое.

3.Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое.

4.Войдите или зарегистрируйтесь, чтобы увидеть скрытое содержимое.

[Chestr 16,679]

Думаю папу особо слушать никто не будет. ИИ неудержим.