Министерство внутренней безопасности США (DHS) привлекло широкий круг лидеров отрасли искусственного интеллекта для создания Совета по безопасности искусственного интеллекта, сообщило агентство в пятницу.
В DHS заявляют, что новый орган будет играть решающую роль в использовании искусственного интеллекта для защиты жизненно важной инфраструктуры США, а также в смягчении угроз, связанных с искусственным интеллектом.
«Искусственный интеллект — это преобразующая технология, которая может беспрецедентным образом продвигать наши национальные интересы», — заявил министр внутренней безопасности Алехандро Майоркас в подготовленном заявлении. «В то же время это представляет собой реальные риски, которые мы можем смягчить, приняв передовой опыт и предприняв другие изученные и конкретные действия».
Совет возглавит Майоркас, и в него войдут несколько высокопоставленных руководителей в области искусственного интеллекта, в том числе генеральный директор OpenAI Сэм Альтман, председатель и главный исполнительный директор Microsoft Сатья Наделла, генеральный директор Alphabet Сундар Пичаи, соучредитель и генеральный директор Anthropic Дарио Амодей, а также президент и генеральный директор NVIDIA Дженсен Хуанг. .
«Я благодарен за то, что такие опытные лидеры посвящают свое время и опыт совету директоров, чтобы помочь гарантировать, что критически важная инфраструктура нашей страны — жизненно важные службы, от которых американцы полагаются каждый день — эффективно защищает от рисков и реализует огромный потенциал этой преобразующей технологии. — сказал Майоркас.
«Технология искусственного интеллекта способна принести огромную пользу обществу, если ее применять ответственно, поэтому мы выступаем за усилия по проверке безопасности передовых систем искусственного интеллекта для снижения потенциальных рисков», — сказал Амодей из Anthropic в параллельном заявлении. «Мы гордимся тем, что вносим свой вклад в изучение влияния ИИ на защиту критической инфраструктуры вместе с другими лидерами государственного и частного секторов.
«Безопасное развертывание искусственного интеллекта имеет первостепенное значение для защиты инфраструктуры, которая питает американское общество, и мы считаем, что создание этого совета является позитивным шагом вперед в укреплении национальной безопасности США», — продолжил он.
«Искусственный интеллект — это самая преобразующая технология нашего времени, и мы должны обеспечить его безопасное и ответственное внедрение», — добавил Наделла из Microsoft. «Для Microsoft большая честь участвовать в этих важных усилиях, и мы с нетерпением ждем возможности поделиться как нашими знаниями, полученными на сегодняшний день, так и нашими планами на будущее».
В состав Совета по безопасности и защите ИИ войдут также генеральный директор Amazon Web Services Адам Селипски, председатель и главный исполнительный директор IBM Арвинд Кришна, содиректор Стэнфордского человеко-ориентированного института искусственного интеллекта Фей-Фей Ли и Майя Уайли, президент и генеральный директор Конференции лидеров по гражданским вопросам. и права человека.
«Для меня большая честь присоединиться к этой группе междисциплинарных лидеров, которые будут ответственно и с ориентацией на человека управлять этой меняющей мир технологией», — сказал Ли. «В конечном итоге ИИ — это инструмент, мощный инструмент, и его необходимо разрабатывать и применять с пониманием того, как он повлияет на человека, сообщество и общество в целом».
По данным DHS, совет проведет свое первое ежеквартальное заседание в начале мая, и ему будет немедленно поручено предоставить секретарю рекомендации по обеспечению безопасного внедрения технологий искусственного интеллекта в основные услуги. Цель состоит в том, чтобы создать форум для DHS, «сообщества критической инфраструктуры», и лидеров ИИ для обмена информацией о рисках безопасности, связанных с ИИ.
Быстрое проникновение искусственного интеллекта в мейнстрим в 2023 году заставило мировых лидеров изо всех сил пытаться разработать правила для работы с новой технологией. В январе Всемирный экономический форум (ВЭФ) включил искусственный интеллект и квантовые вычисления в список наиболее актуальных глобальных рисков.
После издания указа в октябре 2023 года администрация Байдена объявила о создании Консорциума Института безопасности искусственного интеллекта США (AISIC), в который входят многие имена, присоединившиеся к инициативе DHS.
Помимо проблем национальной безопасности, разработчики ИИ, в том числе Google, Meta и OpenAI, во вторник присоединились к некоммерческим организациям Thorn и All Tech is Human, пообещав установить ограничения вокруг своих соответствующих моделей ИИ, чтобы не допустить их использования для создания материалы о сексуальном насилии над детьми (CSAM). CSAM также оказался в центре внимания нового письма, отправленного сенатором Элизабет Уоррен в DHS и Министерство юстиции.