Папа римский Лев XIV выпустил энциклику с предупреждением об опасностях искусственного интеллекта.
- Энциклика, одна из важнейших форм посланий глав католической церкви и первая для нынешнего понтифика, носит название "Magnifica Humanitas" (Великолепное Человечество).
- В энциклике – свыше 40 тысяч слов, в центре внимания: вопрос об искусственном интеллекте.
Понтифик об опасностях ИИ
Лев XIV напомнил библейскую историю о Вавилонской башне, и сравнил ее с развитием искусственного интеллекта: "главный выбор стоит не между "да" и "нет" технологиям, а между строительством Вавилона и восстановлением Иерусалима; силой, претендующей на господство над небесами, и народом, который трудится вместе в присутствии Бога".
Папа римский предупреждает о риске дегуманизации и говорит о "синдроме Вавилона": "идолопоклонство прибыли, приносящее в жертву слабых, единообразие, нейтрализующее различия, и притворство, что единый язык, даже цифровой, может перевести все, включая загадку человека, в цифровые данные".
Понтифик пишет, что хотя скорость и простота доступа к ИИ облегчают жизнь, они могут
- способствовать чрезмерной зависимости и поиску готовых ответов,
- ослаблять личную креативность и способность к принятию решений.
- приводить к утрате желания устанавливать подлинные человеческие связи,
- усиливать неравенство,
- быть использованными для дезинформации, а "правда – неотъемлемый элемент демократии".
Папа римский призвал замедлить и строго регулировать развитие систем искусственного интеллекта: "Необходимы надежные правовые рамки, независимый надзор, информированные пользователи и политическая система, которая не отказывается от своей ответственности".
- На мероприятии в Ватикане в понедельник присутствовал Крис Ола, соучредитель одной из ведущих ИИ-компаний Anthropic. Он заявил, что ИИ-компании сталкиваются с сильным коммерческим давлением и нуждаются во внешнем надзоре.
Папа римский – о войне
В главе "Нормализация войны" Лев XIV пишет, что после Второй мировой войны было широко распространено убеждение: война должна оставаться крайней мерой.
"Однако сегодня мы наблюдаем сдвиг парадигмы... с тревожным возрождением войны как инструмента международной политики,.. этические принципы, которые ранее ограничивали ее использование, размываются", пишет понтифик, замечая "потерю исторической памяти, поскольку исчезают свидетельства очевидцев Холокоста и двух мировых войн". Поэтому "человечество скатывается к насильственной культуре власти, где мир больше не представляется обязанностью, которую нужно взять на себя, а лишь хрупким промежутком между конфликтами".
Папа римский заявляет, что "теория "справедливой войны", которая слишком часто использовалась для оправдания любой войны", устарела – "без ущерба для права на самооборону в самом строгом смысле".
Понтифик также упомянул об опасности использования искусственного интеллекта в военных целях.