За последний год не было недостатка в учёных, технических руководителях, миллиардерах и законодателях, бьющих тревогу по поводу искусственного интеллекта — и теперь даже Папа Римский тоже хочет поговорить об этом.
В увесистом письме объемом 3412 слов от 8 декабря Папа Франциск — глава Католической церкви — предупредил о потенциальной опасности ИИ для человечества и о том, что необходимо сделать, чтобы контролировать его. Письмо пришло в тот момент, когда Римско-католическая церковь готовится отметить Всемирный день мира 1 января 2024 года.
Папа Франциск хочет видеть международный договор, регулирующий ИИ, чтобы обеспечить его этичное развитие и использование — в противном случае мы рискуем попасть в спираль «технологической диктатуры».
«Я призываю мировое сообщество наций работать вместе, чтобы принять обязательный международный договор, который регулирует разработку и использование искусственного интеллекта во многих его формах».
Угроза ИИ возникает, когда у разработчиков есть «стремление к прибыли или жажда власти», которое превосходит желание человека существовать свободно и мирно, пояснил Папа.
«Врожденное достоинство каждого человека […] должны служить основой развития новых технологий и служить неоспоримыми критериями их оценки. […] чтобы цифровой прогресс мог происходить с должным уважением к справедливости и способствовать делу мира».
Технологии, которые не справляются с этой задачей, «усугубляют неравенство и конфликты» и, следовательно, никогда не могут считаться истинным прогрессом, добавил он.
Между тем, появление фейковых новостей, генерируемых искусственным интеллектом, является «серьезной проблемой», добавил Папа, и может привести к росту недоверия к средствам массовой информации.
Недавно Папа стал жертвой генеративного искусственного интеллекта, когда в марте всплыло фальшивое изображение, на котором он одет в роскошную белую куртку-пуховик.
Папа Франциск, однако, также признал преимущества ИИ в обеспечении более эффективного производства, упрощения транспортировки и большей готовности рынков, а также революции в процессах сбора, организации и подтверждения данных.
Но он также обеспокоен тем, что ИИ принесет пользу тем, кто его контролирует, и оставит большую часть населения без работы, чтобы зарабатывать себе на жизнь:
«Существует существенный риск получения непропорциональных выгод для немногих ценой обнищания многих».
Папа Франциск уже давно предупреждал о неправильном использовании новых технологий, заявляя, что в них необходимо закладывать «как теоретические, так и практические моральные принципы». Однако его часто считают более технически подкованным и дальновидным, чем его предшественники.
Недавние заявления Папы Франциска прозвучали после года протестов со всех уголков мира по поводу потенциальной опасности ИИ.
Технологические лидеры, такие как генеральный директор Tesla Илон Маск и соучредитель Apple Стив Возняк, выразили обеспокоенность по поводу того, насколько быстро развивается искусственный интеллект. Это побудило их и более 2600 технологических лидеров и исследователей подписать петицию о «приостановке» разработки ИИ в марте 2023 года, разделив опасения, что ИИ, более продвинутый, чем GPT-4, может представлять «серьезные риски для общества и человечества».
Президент США Джо Байден также выразил обеспокоенность. В конце октября его администрация опубликовала указ о «безопасной, надежной и заслуживающей доверия разработке и использовании искусственного интеллекта» для устранения рисков, связанных с ИИ.
Связанный: НФТ и исламское образование: новый рубеж преподавания религии?
Даже голливудские режиссеры и знаменитости высказывают свои мысли по этому вопросу.
В июле канадский режиссер Джеймс Кэмерон, как сообщается, заявил, что предупреждал об опасностях искусственного интеллекта еще со времен «Терминатора», который он снял почти 40 лет назад.
«Я предупреждал вас, ребята, в 1984 году, но вы не послушали», — сказал Кэмерон CTV News.
Терминатор (1984)
Режиссер Джеймс Кэмерон pic.twitter.com/dNBv6fO8fh– Моника Мак Каллион (@CallionMonica) 31 октября 2023 г.
«Я думаю, что превращение ИИ в оружие — это самая большая опасность. […] Я думаю, что мы вступим в эквивалент гонки ядерных вооружений с ИИ, и если мы его не создадим, то другие ребята наверняка его построят, и тогда ситуация будет обостряться», — добавил он.
Журнал: Эксперты хотят наделить ИИ человеческими «душами», чтобы они не убили нас всех
Какая это была неделя. Возвращение Ревущей Китти в воскресенье вечером привело к торговому безумию: акции…
Предполагаемый бывший сотрудник Pump.fun вчера удалил из протокола Solana на сумму около 2 миллионов долларов.…
Вот вам и возрождение акций мемов GameStop, а также связанный с ними рост монет мемов.Поскольку…
Илон Маск, генеральный директор Tesla, SpaceX и Neuralink, объявил сегодня в твите, что Neuralink ищет…
Похоже, Ревущего Китти разочаровал его любимый магазин видеоигр.GameStop, компания, которую трейдер (он же Кит Гилл)…
Цена Биткойна выросла до самого высокого уровня со времени широко обсуждавшегося события 19 апреля, коснувшись…