Опасности искусственного интеллекта снова стали предметом выступления Папы Франциска, когда он обращался к мировым лидерам на ежегодном саммите G7 в Апулии, Италия, в пятницу.
В ходе своего выступления Фрэнсис призвал правительства стран мира запретить использование ИИ в войне и разработать этическую основу для этой технологии, подчеркнув необходимость сотрудничества для руководства ее разработкой и использованием.
«В свете трагедии, которой является вооруженный конфликт, необходимо срочно пересмотреть разработку и использование таких устройств, как так называемое «смертоносное автономное оружие», и в конечном итоге запретить их использование», — сказал Папа. «Это начинается с эффективного и конкретного обязательства ввести еще больший и надлежащий контроль со стороны человека.
«Ни одна машина никогда не должна отнимать жизнь у человека», — сказал он.
Глава католической церкви неоднократно использовал свою платформу для решения проблемы ИИ после взрывного запуска ChatGPT в 2022 году и последующего всплеска ИИ в мейнстрим, ранее называя это «авантюрой нашего будущего с самыми высокими ставками».
Папа Франциск, сам являющийся объектом нескольких вирусных изображений и видеороликов, созданных с помощью искусственного интеллекта (в том числе одного, на котором он изображен в пышной белой куртке Balenciaga), признал растущую силу искусственного интеллекта в политике, медицине и образовании.
Назвав ИИ «настоящей когнитивно-промышленной революцией», которая может привести к сложным эпохальным преобразованиям, Папа Франциск, тем не менее, предупредил, что технологии могут также привести к большей несправедливости между развитыми и развивающимися странами или между доминирующими и угнетенными социальными классами.
Технологии не являются непогрешимыми, сказал Понтифик.
«Частая и серьезная ошибка — забывать, что искусственный интеллект — это не другой человек и что он не может предлагать общие принципы», — сказал Фрэнсис. «Эта ошибка проистекает либо из глубокой потребности людей найти устойчивую форму товарищества, либо из подсознательного предположения, а именно предположения, что наблюдения, полученные с помощью вычислительного механизма, наделены качествами несомненной достоверности и неоспоримой универсальности. »
Папа также обратился к тому, что он назвал «техночеловеческим состоянием», и отношениям человечества с технологиями на протяжении всей истории.
«Люди всегда поддерживали связь с окружающей средой посредством инструментов, которые они постепенно создавали», — сказал он. «Невозможно отделить историю мужчин и женщин и цивилизации от истории этих инструментов».
Папа отметил, что технологии можно использовать как для поддержания жизни, так и для ее изъятия, и заявил, что в будущем искусственный интеллект достигнет сингулярности.
«Это тем более верно, что весьма вероятно, что в не столь отдаленном будущем программы искусственного интеллекта смогут напрямую взаимодействовать друг с другом, чтобы улучшить свою производительность», — сказал он.
Сингулярность относится к тому времени, когда компьютеры и искусственный интеллект вышли из-под контроля человека.
«И если в прошлом мужчины и женщины, создававшие простые инструменты, видели, что их жизни формируются ими (нож позволил им пережить холод, но также и развить искусство ведения войны), то теперь, когда люди создали сложные инструменты, они увидят их жизнь тем более формируется под их влиянием», — сказал Папа.
Папа Франциск является одним из самых видных в мировом хоре голосов, выступающих за более осторожный подход к ИИ. Летом прошлого года генеральный секретарь ООН Антониу Гутерриш заявил, что к таким предупреждениям следует относиться серьезно.
«Тревожные звонки по поводу новейшей формы искусственного интеллекта, генеративного ИИ, оглушительны, и громче всего они исходят от разработчиков, которые его разработали», — заявил Гутерриш во время пресс-конференции.
Хотя Фрэнсис выразил обеспокоенность по поводу генеративного ИИ, он также подчеркнул его творческий потенциал для человечества.
«Священное Писание свидетельствует, что Бог даровал Свой Дух людям, чтобы они могли иметь «умение, понимание и знание во всяком ремесле», — сказал Франциск. «Поэтому наука и технология являются блестящими продуктами творческого потенциала человека. Действительно, искусственный интеллект возникает именно в результате использования данного Богом творческого потенциала».
В целом интеллектуальный информационный бюллетень
Еженедельное путешествие по искусственному интеллекту, рассказанное Дженом, генеративной моделью искусственного интеллекта.