Папа Римский Лев XIV выпустил свою
первую энциклику. Она называется "Великолепное человечество" и посвящена сбережению человечества во времена (также он использует слово "эра") искусственного интеллекта. В частности, указывается, что
- Цифровизация, ИИ и роботы стремительно меняют наш мир, "это становится всё очевиднее".
- "Любое утверждение, касающееся искусственного интеллекта, рискует быстро устареть, учитывая поразительные темпы развития этих систем. Все мы, включая тех, кто их разрабатывает, имеем лишь ограниченное представление об их реальном функционировании. Действительно, современные системы искусственного интеллекта скорее "выращиваются”, чем "создаются”, поскольку разработчики непосредственно не разрабатывают каждую деталь, а вместо этого делают структуру, в рамках которой интеллект "растёт".
- "Скорость и простота, с которой [благодаря нейросетям] можно получить доступ к информации, сложным аналитическим материалам, медиаконтенту и практической помощи, несомненно, упрощают жизнь. Однако они также могут способствовать чрезмерной уверенности в себе и поиску готовых ответов, а также ослаблять творческий потенциал и способность к суждениям".
- "Призыв к благоразумию, тщательной оценке и даже, порой, к замедлению темпов внедрения искусственного интеллекта не означает противодействия прогрессу; напротив, это проявление ответственной заботы о человеческой семье. Эта потребность становится ещё более насущной, учитывая частый дисбаланс между скоростью технологического роста и более медленным развитием осведомлённости, норм, гарантий и институтов, способных регулировать его последствия. Недостаточно абстрактно ссылаться на этику; необходимы надёжная правовая база, независимый надзор, информирование людей и политическая система, которая не отказывается от своей ответственности. В противном случае изменения будут регулироваться только технократическим мышлением и представляться как необходимые и неизбежные, что в конечном итоге приведёт к установлению правил, сформированных теми, кто контролирует данные, инфраструктуру и вычислительные мощности (...) необходимо более активное политическое участие, которое способно замедлить развитие событий, когда всё ускоряется".
- "...мы должны вернуться к нашему главному вопросу: что значит защитить нашу человечность? Риск заключается не только в неправильном использовании определённых технологий. Ещё более опасна всепроникающая технократическая парадигма, в которую мы погружены и которая усиливается цифровой революцией и искусственным интеллектом, угрожает нормализовать античеловеческое мировоззрение. Согласно этому видению, полнота жизни приравнивается к обладанию большим, уменьшению слабости, устранению неуверенности и осуществлению полного контроля. Когда эффективность становится высшим критерием ценности, люди склонны рассматривать себя как проект, который необходимо оптимизировать, а не как личности, призванные к взаимоотношениям и общению".
- "Инструменты, которые могли бы способствовать диалогу и участию, часто используются для создания искажённых историй и стирания границ между правдой и ложью, смешивания фактов с мнениями. Дезинформация началась не с ИИ, но сегодня она находит мощное подкрепление в ИИ".
Также Папа рассуждает о вреде смартфонов в раннем возрасте и, между прочим, говорит, что "родителям трудно самостоятельно противостоять влиянию бизнеса, который превращает внимание и время в деньги. В этой связи целесообразно вмешательство законодателей, которые устанавливают возрастные ограничения, привлекают поставщиков услуг к ответственности, а не перекладывают всё бремя контроля на семьи".
Много рассуждений посвящено этике войны. Например: "Мы должны теперь обратить наше внимание на ещё более трагическую проблему войны. Здесь вопрос заключается не только в эффективности новых инструментов, но и в риске того, что технология, оторванная от этики и ответственности, сделает решения о жизни и смерти более быстрыми и обезличенными. (...) Любая технология, которая способствует атакам на людей, без того, чтобы видеть их лица, - снижает моральный порог конфликта".
