Папа Франциск поднял тревогу по поводу искусственного интеллекта в своем выступлении на саммите G7

БАРИ, Италия — В пятницу Папа Франциск призвал лидеров богатых демократических стран мира сохранять человеческое достоинство на первом месте при разработке и использовании искусственного интеллекта, предупредив, что такие мощные технологии рискуют превратить сами человеческие отношения в простые алгоритмы.

Франциск использовал свой моральный авторитет в отношении «Большой семерки», приглашенной принимающей Италией выступить на специальной сессии их ежегодного саммита, посвященной опасностям и перспективам ИИ. При этом он стал первым Папой, присутствовавшим на «Большой семерке», предложив этический взгляд на проблему, которая все чаще становится в повестке дня международных саммитов, правительственной политики и советов директоров компаний.

Фрэнсис сказал, что политики должны взять на себя ведущую роль в обеспечении того, чтобы ИИ оставался ориентированным на человека, чтобы решения о том, когда использовать оружие или даже менее смертоносные инструменты, всегда оставались людьми, а не машинами.

«Мы обрекли бы человечество на будущее без надежды, если бы лишили людей способности принимать решения о себе и своей жизни, обрекая их зависеть от выбора машин», — сказал он. «Нам необходимо обеспечить и защитить пространство для надлежащего человеческого контроля над выбором, сделанным программами искусственного интеллекта: от этого зависит само человеческое достоинство».

Фрэнсис присоединяется к хору стран и глобальных организаций, стремящихся к усилению защиты ИИ после бума генеративного искусственного интеллекта, начало которому положил чат-бот OpenAI ChatGPT.

В этом году аргентинский Папа использовал свое ежегодное мирное послание, чтобы призвать к заключению международного договора, обеспечивающего этичное развитие и использование ИИ. Он утверждает, что технология, лишенная человеческих ценностей сострадания, милосердия, морали и прощения, слишком опасна, чтобы ее можно было беспрепятственно развивать.

Он не повторил этот призыв прямо в своей речи в пятницу, но ясно дал понять, что ответственность за лидерство в этом вопросе лежит на политиках. И он призвал их окончательно запретить использование смертоносного автономного оружия, в просторечии известного как «роботы-убийцы».

«Ни одна машина никогда не должна отнимать жизнь у человека», — сказал он.

Обращаясь к лидерам, сидевшим за столом, он заключил: «Каждый должен эффективно использовать (ИИ), но ответственность за создание условий, чтобы такое эффективное использование было возможным и плодотворным, лежит на политике».

Премьер-министр Италии Джорджия Мелони пригласила Фрэнсиса и объявила о своем участии, зная о потенциальном влиянии его звездной силы и морального авторитета на G7. Сидевшие за столом, казалось, были должным образом благоговейны, и неистовый гул в комнате совершенно стих, когда прибыл Фрэнсис.

«Папа — это особая знаменитость», — сказал Джон Киртон, политолог из Университета Торонто, который возглавляет аналитический центр G7 Research Group.

Киртон напомнил, что последним саммитом, на котором была такая звездная сила, которая затем переросла в действия, была встреча 2005 года в Глениглсе, Шотландия. Там мировые лидеры решили погасить 40 миллиардов долларов долга 18 беднейших стран мира перед Всемирным банком и Международным валютным фондом.

Этому саммиту предшествовал концерт Live 8 в Лондоне, на котором выступили Стинг, The Who и реформированная Pink Floyd и который собрал более миллиона человек в знак солидарности против голода и бедности в Африке.

«Глениглс на самом деле добился хоумрана, и для некоторых это одна из самых успешных встреч на высшем уровне», – сказал Киртон.

Никакого народного давления на лидеров «Большой семерки» в итальянском регионе Апулия не оказывается, но Франциск знал, что он может воспользоваться своим моральным авторитетом, чтобы возобновить свои требования о гарантиях для ИИ и подчеркнуть угрозы миру и обществу, которые он представляет, если оставить в стороне человеческую этику. В сторону.

«Говорить о технологиях — значит говорить о том, что значит быть человеком и, следовательно, о нашем исключительном статусе существ, обладающих как свободой, так и ответственностью», — сказал он. «Это значит говорить об этике».

Технология генеративного искусственного интеллекта поразила мир своими возможностями по созданию реакций, подобных человеческим, но она также вызвала опасения по поводу безопасности искусственного интеллекта и привела к путанице глобальных усилий по его обузданию.

Некоторые беспокоятся о катастрофических, но весьма отдаленных рисках для человечества из-за его потенциала для создания нового биологического оружия и усиления дезинформации. Других беспокоит его влияние на повседневную жизнь из-за алгоритмической предвзятости, приводящей к дискриминации, или систем искусственного интеллекта, которые уничтожают рабочие места.

В своем мирном послании Франциск повторил эти опасения и поднял другие. Он сказал, что ИИ должен в первую очередь заботиться о гарантиях фундаментальных прав человека, содействии миру и защите от дезинформации, дискриминации и искажений.

Что касается регулирования, Фрэнсис в каком-то смысле будет проповедовать новообращенным, поскольку члены «Большой семерки» были в авангарде дебатов о надзоре за ИИ.

Япония, которая в прошлом году поочередно председательствовала в «Большой семерке», запустила процесс ИИ в Хиросиме, чтобы разработать международные руководящие принципы и кодекс поведения для разработчиков ИИ. В дополнение к этим усилиям премьер-министр Фумио Кисида в прошлом месяце представил структуру глобального регулирования генеративного искусственного интеллекта — систем, которые могут быстро генерировать новый текст, изображения, видео и аудио в ответ на подсказки и команды.

Европейский Союз был одним из первых, кто принял широкомасштабный Закон об искусственном интеллекте, который должен вступить в силу в течение следующих двух лет и может послужить глобальной моделью. Закон направлен против любого продукта или услуги искусственного интеллекта, предлагаемых в 27 странах блока, с ограничениями, основанными на уровне риска, который они представляют.

В Соединенных Штатах президент Джо Байден издал указ о защите ИИ и призвал к принятию законодательства для его усиления, в то время как некоторые штаты, такие как Калифорния и Колорадо, пытались принять свои собственные законопроекты об ИИ, но с неоднозначными результатами.

Антимонопольные органы по обе стороны Атлантики тщательно проверяют крупные компании, занимающиеся искусственным интеллектом, включая Microsoft, Amazon и OpenAI, на предмет того, не подавляет ли их доминирующее положение конкуренцию.

Великобритания положила начало глобальному диалогу по обузданию наиболее серьезных опасностей ИИ на саммите прошлой осенью. На последующей встрече в Сеуле компании пообещали безопасно развивать эту технологию. Франция собирается провести еще одну встречу из этой серии в начале следующего года. Организация Объединенных Наций также внесла свой вклад, приняв свою первую резолюцию по ИИ.

В кулуарах своего выступления перед AI у Фрэнсиса целый день двусторонних встреч. Он провел встречи с президентом Украины Владимиром Зеленским, а также приглашенными лидерами из Алжира, Бразилии, Индии, Кении, Турции. Он также встретится с членами G7, включая Байдена, премьер-министра Канады Джастина Трюдо и президента Франции Эммануэля Макрона.