За последний год не было недостатка в учёных, технических руководителях, миллиардерах и законодателях, бьющих тревогу по поводу искусственного интеллекта — и теперь даже Папа Римский тоже хочет поговорить об этом.
В увесистом письме объемом 3412 слов от 8 декабря Папа Франциск — глава Католической церкви — предупредил о потенциальной опасности ИИ для человечества и о том, что необходимо сделать, чтобы контролировать его. Письмо пришло в тот момент, когда Римско-католическая церковь готовится отметить Всемирный день мира 1 января 2024 года.
Папа Франциск хочет видеть международный договор, регулирующий ИИ, чтобы обеспечить его этичное развитие и использование — в противном случае мы рискуем попасть в спираль «технологической диктатуры».
«Я призываю мировое сообщество наций работать вместе, чтобы принять обязательный международный договор, который регулирует разработку и использование искусственного интеллекта во многих его формах».
Угроза ИИ возникает, когда у разработчиков есть «стремление к прибыли или жажда власти», которое превосходит желание человека существовать свободно и мирно, пояснил Папа.
«Врожденное достоинство каждого человека […] должны служить основой развития новых технологий и служить неоспоримыми критериями их оценки. […] чтобы цифровой прогресс мог происходить с должным уважением к справедливости и способствовать делу мира».
Технологии, которые не справляются с этой задачей, «усугубляют неравенство и конфликты» и, следовательно, никогда не могут считаться истинным прогрессом, добавил он.
Между тем, появление фейковых новостей, генерируемых искусственным интеллектом, является «серьезной проблемой», добавил Папа, и может привести к росту недоверия к средствам массовой информации.
Недавно Папа стал жертвой генеративного искусственного интеллекта, когда в марте всплыло фальшивое изображение, на котором он одет в роскошную белую куртку-пуховик.
Фальшивая фотография Папы, созданная искусственным интеллектом. Источник: Бостон Глоуб.
Папа Франциск, однако, также признал преимущества ИИ в обеспечении более эффективного производства, упрощения транспортировки и большей готовности рынков, а также революции в процессах сбора, организации и подтверждения данных.
Но он также обеспокоен тем, что ИИ принесет пользу тем, кто его контролирует, и оставит большую часть населения без работы, чтобы зарабатывать себе на жизнь:
«Существует существенный риск получения непропорциональных выгод для немногих ценой обнищания многих».
Папа Франциск уже давно предупреждал о неправильном использовании новых технологий, заявляя, что в них необходимо закладывать «как теоретические, так и практические моральные принципы». Однако его часто считают более технически подкованным и дальновидным, чем его предшественники.
Недавние заявления Папы Франциска прозвучали после года протестов со всех уголков мира по поводу потенциальной опасности ИИ.
Технологические лидеры, такие как генеральный директор Tesla Илон Маск и соучредитель Apple Стив Возняк, выразили обеспокоенность по поводу того, насколько быстро развивается искусственный интеллект. Это побудило их и более 2600 технологических лидеров и исследователей подписать петицию о «приостановке» разработки ИИ в марте 2023 года, разделив опасения, что ИИ, более продвинутый, чем GPT-4, может представлять «серьезные риски для общества и человечества».
Президент США Джо Байден также выразил обеспокоенность. В конце октября его администрация опубликовала указ о «безопасной, надежной и заслуживающей доверия разработке и использовании искусственного интеллекта» для устранения рисков, связанных с ИИ.
Связанный: НФТ и исламское образование: новый рубеж преподавания религии?
Даже голливудские режиссеры и знаменитости высказывают свои мысли по этому вопросу.
В июле канадский режиссер Джеймс Кэмерон, как сообщается, заявил, что предупреждал об опасностях искусственного интеллекта еще со времен «Терминатора», который он снял почти 40 лет назад.
«Я предупреждал вас, ребята, в 1984 году, но вы не послушали», — сказал Кэмерон CTV News.
Терминатор (1984)
Режиссер Джеймс Кэмерон pic.twitter.com/dNBv6fO8fh– Моника Мак Каллион (@CallionMonica) 31 октября 2023 г.
«Я думаю, что превращение ИИ в оружие — это самая большая опасность. […] Я думаю, что мы вступим в эквивалент гонки ядерных вооружений с ИИ, и если мы его не создадим, то другие ребята наверняка его построят, и тогда ситуация будет обостряться», — добавил он.
Журнал: Эксперты хотят наделить ИИ человеческими «душами», чтобы они не убили нас всех
