Изображения профилей, созданные с помощью искусственного интеллекта, становятся важным инструментом для скоординированных манипуляций с X: исследователи из Германии выявили около 8000 учетных записей, использующих синтетические лица, в первую очередь ориентированных на усиление политических сообщений и криптосхем.
«Последние достижения в области генеративного искусственного интеллекта (ИИ) стирают границы между аутентичным и сгенерированным машинами контентом, делая практически невозможным для людей различать такие носители», — отмечается в исследовании.
Исследование, проведенное группами из Рурского университета в Бохуме, Института Лейбница GESIS и Центра Гельмгольца CISPA, показало, что более половины этих учетных записей были созданы в 2023 году, часто в ходе подозрительных массовых событий.
«Значительная часть учетных записей была создана массово незадолго до того, как мы собрали данные, что является обычным явлением для учетных записей, созданных для распространения сообщений, кампаний по дезинформации или аналогичной подрывной деятельности», — объясняют исследователи.
Этот вывод получает дополнительный контекст благодаря недавнему анализу платформ, проведенному Центром по противодействию цифровой ненависти, который показал, что политические посты владельца X Илона Маска в пользу Дональда Трампа получили 17,1 миллиарда просмотров — более чем в два раза больше, чем все рекламные объявления политической кампании в США, вместе взятые, за тот же период.
«По меньшей мере 87 постов Маска в этом году содержали утверждения о выборах в США, которые специалисты по проверке фактов оценили как ложные или вводящие в заблуждение, что набрало 2 миллиарда просмотров. Ни в одном из этих постов не было примечания сообщества — имени X для проверки фактов, создаваемой пользователями», — говорится в отчете CCDH.
Использование генеративного искусственного интеллекта (будь то для создания поддельных изображений или текста) было легко обнаружить, поскольку аккаунты с искусственными лицами демонстрировали четкие закономерности, отделяющие их от законных пользователей. «У аккаунтов с фейковыми изображениями меньше подписчиков (в среднем: 393,35, медиана: 60) по сравнению с аккаунтами с реальными изображениями (в среднем: 5 086,38, медиана: 165)». Исследование также показало, что фейковые аккаунты, как правило, меньше взаимодействуют со своей экосистемой подписчиков и вместо этого публикуют сообщения, не отвечая и не взаимодействуя с другими аккаунтами.
Исследование также подчеркнуло конкретные закономерности, предполагающие скоординированную деятельность: «Мы замечаем, что 1996 аккаунтов с фейковыми изображениями (25,84%) имеют ровно 106 подписчиков. Наш контент-анализ показывает, что эти аккаунты принадлежат к большому кластеру фейковых аккаунтов, участвующих в скоординированном недостоверном поведении».
Сложные методы обнаружения, использованные исследовательской группой, достигли поразительной точности: исследователи сообщают о почти 100% уверенности в своих выводах.
Исследователи также заявили, что многие учетные записи живут недолго: более половины из них были заблокированы менее чем за год.
Контент-анализ также выявил тщательно спланированные шаблоны публикаций на нескольких языках. Исследование выявило «крупные сети учетных записей с поддельными изображениями, которые, вероятно, были созданы автоматически и участвовали в крупномасштабных спам-атаках». Англоязычные аккаунты в основном сосредоточены на спорных темах, причем исследователи обнаружили, что аккаунты предпочитают затрагивать такие вопросы, как война в Украине, выборы в США и дебаты о COVID-19 и политике вакцинации.
Помимо политики, многие из этих аккаунтов также продвигали крипто-мошенничество и контент, связанный с сексом.
Заглядывая в будущее, исследователи планируют расширить возможности обнаружения, чтобы обнаруживать изображения ИИ, созданные с помощью других моделей, основанных на других технологиях, например, моделей диффузии вместо генеративно-состязательных сетей (GAN). Они также хотят улучшить свою методологию, чтобы найти больше способов выявить то, что они называют «скоординированным недостоверным поведением на социальных платформах».
В целом интеллектуальный информационный бюллетень
Еженедельное путешествие по искусственному интеллекту, рассказанное Дженом, генеративной моделью искусственного интеллекта.