Поскольку сфера искусственного интеллекта развивается почти с головокружительной скоростью, мошенники теперь имеют доступ к инструментам, которые могут помочь им выполнять сложнейшие атаки в массовом порядке, предупреждает соучредитель компании по обеспечению безопасности Web3 Quantstamp.
Выступая перед на Неделе блокчейна в Корее, Ричард Ма из Quantstamp объяснил, что, хотя атаки социальной инженерии существуют уже некоторое время, ИИ помогает хакерам стать «намного более убедительными» и повысить вероятность успеха своих атак.
Чтобы проиллюстрировать, как выглядит новое поколение атак с использованием искусственного интеллекта, Ма вспомнил, что случилось с одним из клиентов Quantstamp, когда злоумышленник притворился техническим директором целевой фирмы.
«Он начал писать одному из других инженеров компании, говоря: «Эй, у нас чрезвычайная ситуация, вот что происходит» и вовлекал их в кучу разговоров, прежде чем спрашивать их о чем-либо», — сказал Ма.
Судя по всему, наблюдается рост числа целенаправленных мошеннических действий, направленных на конкретных людей, а не просто игра в цифры… используя AI и ChatGPT мошенники могут писать код быстро, а новые технологии означают, что злоумышленникам будет выгоднее, пока не будет создано программное обеспечение, способное дать отпор.
Пожилые люди являются мишенью– MoistenedTart.blsky.social (@MoistenedTart) 31 августа 2023 г.
Ма сказал, что эти дополнительные шаги усложняют атаки, что делает возможность передачи важной информации гораздо более вероятной.
«До ИИ, [scammers] могут просто попросить у вас подарочную карту или заплатить им биткойны, потому что это чрезвычайная ситуация. Теперь они заранее делают гораздо больше дополнительных шагов в разговоре, чтобы установить легитимность».
В конечном счете, по словам Ма, самая существенная угроза, которую представляет собой сложный ИИ, — это масштабы, в которых могут осуществляться подобные типы атак.
Используя автоматизированные системы искусственного интеллекта, злоумышленники могут запускать атаки социальной инженерии и другие сложные мошенничества в тысячах различных организаций с минимальным участием человека.
Как мошенничество с AI Chat и ChatGPT влияет на рынки?
Узнайте об этом у ведущих The Market Report Сэма Буржи (@forgeforth_) и Марселя Пехмана (@noshitcoins) в нашем последнем выпуске: pic.twitter.com/kHH6hcisd9
– Коинтелеграф (@) 27 февраля 2023 г.
«В криптографии существует множество баз данных со всей контактной информацией ключевых людей каждого проекта. Как только хакеры получат к этому доступ, у них появится ИИ, который будет отправлять сообщения всем этим людям по-разному», — сказал он.
«Очень сложно научить всю вашу компанию не реагировать на такие вещи».
Хотя масштабы и сложность мошенничества с использованием искусственного интеллекта могут показаться пугающими, Ма дал несколько простых советов частным лицам и организациям, стремящимся защитить себя.
Связанный: Крипто-мошенничество будет расти с развитием искусственного интеллекта
Самая важная защитная мера — избегать отправки какой-либо конфиденциальной информации по электронной почте или в текстовых сообщениях. Ма сказал, что организациям следует перейти к локализации всей передачи важных данных в Slack или по другим внутренним каналам.
«Как правило, придерживайтесь внутреннего канала связи компании и все перепроверяйте».
Наконец, Ма сказал, что компаниям следует инвестировать в антифишинговое программное обеспечение, которое фильтрует автоматические электронные письма от ботов и искусственного интеллекта. Он сказал, что Quantstamp использует антифишинговое программное обеспечение от компании IronScales, которая предлагает услуги по обеспечению безопасности электронной почты.
«Мы только в начале этой гонки вооружений, и будет становиться все труднее различать людей и убедительный ИИ».
AI Eye: Apple разрабатывает карманный ИИ, фейковую музыкальную сделку, гипнотизирует GPT-4
Источник: Сointеlеgrаph
