Правоохранительные органы США конфисковали два домена, связанных с фермой ботов на базе искусственного интеллекта, связанной с правительством России, сообщило во вторник Министерство юстиции США (DOJ).
«Это яркий пример стратегии «прежде всего — разрушение», которую Департамент, включая ФБР, принял, когда дело доходит до киберугроз и киберугроз национальной безопасности», — сказал представитель Министерства юстиции изданию Decrypt. «Мы продолжаем совершенствоваться в том, как мы защищаем и идентифицируем этих субъектов».
Согласно документам, опубликованным агентством, киберпреступники использовали генеративный ИИ для создания поддельных профилей в социальных сетях, многие из которых выдавали себя за американцев, а затем использовали их для публикации пророссийских сообщений в Twitter.
«Сегодняшние действия представляют собой первый случай пресечения деятельности спонсируемой Россией генеративной фермы ботов для социальных сетей, усиленной ИИ», — заявил директор Федерального бюро расследований США (ФБР) Кристофер Рэй. «Россия намеревалась использовать эту ферму ботов для распространения иностранной дезинформации, созданной ИИ, масштабируя свою работу с помощью ИИ, чтобы подорвать наших партнеров на Украине и повлиять на геополитические нарративы, выгодные российскому правительству».
Ферма ботов якобы использовала домены (mlrtr.com и otanmail.com), выпущенные провайдером доменов Namecheap из Аризоны, частные почтовые сервисы для генерации случайных адресов электронной почты и создавала профили в Twitter. В одном из примеров бот-аккаунт выдавал себя за жителя Миннеаполиса, который называл себя «гуманистом» и включал хэштег Bitcoin.
Изображение: Министерство юстиции США
Всего в период с 11 июня 2022 года по 1 марта 2024 года бот-ферма создала более 968 аккаунтов Twitter.
Компания Namecheap не отреагировала немедленно на просьбу Decrypt прокомментировать ситуацию.
Для экспертов по кибербезопасности общедоступные модели генеративного искусственного интеллекта и стандартизированные инструменты разработки представляют интерес для спонсируемых государством киберпреступников.
«Сочетание генеративного ИИ и API-интерфейсов разработчиков, предоставляемых такими платформами, как Telegram, X и Meta, может быть очень опасным, если используется злонамеренно», — сказал соучредитель и технический директор компании по безопасности блокчейна Halborn Стив Уолброэль изданию Decrypt через Telegram. «В обычной ситуации эта функциональность позволяет пользователям автоматизировать, управлять или усиливать свое присутствие в социальных сетях. Но в руках злоумышленника это очень убедительный метод введения людей и онлайн-сообществ в заблуждение».
Вальбрёль указал на группы в Telegram, полностью состоящие из ботов, управляемых искусственным интеллектом, которые можно использовать для создания ложной шумихи и социального доказательства, а также для убеждения ничего не подозревающих жертв вкладывать средства в мошеннические схемы, основанные на этом искусственном энтузиазме, а затем мошенники, управляющие ботами, могут украсть их инвестиции.
«Хотя это тактика социальной инженерии, используемая для масштабного распространения дезинформации, это также тактика, используемая мошенниками, чтобы помочь «накачать и сбросить» мем-монеты, чтобы украсть большие суммы капитала у наивных пользователей», — добавил Вальбрёль.
«Случаи остановок и сопутствующие рекомендации свидетельствуют о том, что США и союзники пробуют различные методы, такие как эти нарушения и захваты… поскольку операторы в настоящее время находятся вне их прямой досягаемости», — заметил старший научный сотрудник Citizen Lab Джон Скотт-Рейлтон в ветке Twitter. «Ожидайте, что операторы будут учиться, развиваться и снова нацеливаться на США».
Операция по искоренению фейковых аккаунтов началась в июне с подачи двух ордеров на обыск и изъятие от Окружного суда США в Аризоне, разрешающих обыск серверов X Corp (он же Twitter) и изъятие доменов у Namecheap. Twitter добровольно заблокировал указанные аккаунты, сославшись на нарушения условий обслуживания.
«X — важный партнер в этом деле, и мы ценим их добровольные усилия по удалению этих ботов и проведению собственного расследования», — сообщил представитель Министерства юстиции изданию Decrypt.
«Поскольку злонамеренные субъекты ускоряют свое преступное использование ИИ, Министерство юстиции отреагирует, и мы отдадим приоритет подрывным действиям с нашими международными партнерами и частным сектором», — заявила заместитель генерального прокурора Лиза Монако в своем заявлении. «Мы без колебаний закроем фермы ботов, конфискуем незаконно полученные интернет-домены и дадим отпор нашим противникам».
По данным Министерства юстиции, операция проводилась в сотрудничестве с ФБР, Cyber National Mission Force, правительственными партнерами в Канаде и Нидерландах, а также компаниями, работающими в социальных сетях, включая Twitter.
«Этими действиями Министерство юстиции пресекло пропагандистскую кампанию, поддерживаемую российским правительством и использующую искусственный интеллект, по использованию фермы ботов для распространения дезинформации в Соединенных Штатах и за рубежом», — заявил генеральный прокурор Меррик Б. Гарланд. «Поскольку российское правительство продолжает вести свою жестокую войну на Украине и угрожает демократиям по всему миру, Министерство юстиции продолжит задействовать все наши юридические полномочия для противодействия российской агрессии и защиты американского народа».
Не только фейковые аккаунты Twitter используются для продвижения мошенничества и дезинформации. Недавно серия кибератак, нацеленных на настоящие аккаунты Twitter известных артистов, включая музыканта Doja Cat, актрису Sydney Sweeney и легендарную хэви-метал группу Metallica, использовалась для продвижения криптомошенничества.
В целом интеллектуальный информационный бюллетень
Еженедельное путешествие в мир ИИ, рассказанное Дженом — генеративной моделью ИИ.
