Сегодня Microsoft и OpenAI сообщают, что хакеры уже используют крупные языковые модели, такие как ChatGPT, для уточнения и улучшения существующих кибератак. В недавно опубликованном исследовании Microsoft и OpenAI обнаружили попытки групп, поддерживаемых Россией, Северной Кореей, Ираном и Китаем, использовать такие инструменты, как ChatGPT, для поиска целей, улучшения сценариев и помощи в разработке методов социальной инженерии.

«Группы киберпреступников, субъекты угроз государственным государствам и другие злоумышленники изучают и тестируют различные технологии искусственного интеллекта по мере их появления с целью понять потенциальную ценность своих операций и меры безопасности, которые им, возможно, придется обойти», — говорится в сообщении Microsoft. заявление. сообщение в блоге сегодня.

Было обнаружено, что группа «Стронций», связанная с российской военной разведкой, использовала LLM «для понимания протоколов спутниковой связи, технологий радиолокационной визуализации и конкретных технических параметров». Хакерская группа, также известная как APT28 или Fancy Bear, действовала во время войны России на Украине и ранее участвовала в атаке на президентскую кампанию Хиллари Клинтон в 2016 году.

По словам Microsoft, группа также использует LLM для облегчения «основных задач написания сценариев, включая манипулирование файлами, выбор данных, регулярные выражения и многопроцессорную обработку, чтобы потенциально автоматизировать или оптимизировать технические операции».

Северокорейская хакерская группа, известная как Thallium, использует LLM для поиска публично сообщаемых уязвимостей и целевых организаций, для облегчения выполнения основных задач по написанию сценариев и написания контента для фишинговых кампаний. Microsoft утверждает, что иранская группа Curium также использует LLM для создания фишинговых писем и даже кода, чтобы избежать обнаружения антивирусными приложениями. Связанные с государством китайские хакеры также используют LLM для исследований, написания сценариев, переводов и совершенствования своих существующих инструментов.

ЧИТАТЬ   Bing Chat теперь доступен в Google Chrome и Safari

Высказывались опасения по поводу использования ИИ в кибератаках, особенно из-за таких инструментов ИИ, как WormGPT и FraudGPT. появились для создания вредоносных электронных писем и инструментов взлома. Высокопоставленный чиновник Агентства национальной безопасности также предупредил в прошлом месяце что хакеры используют ИИ, чтобы сделать свои фишинговые письма более убедительными.

Microsoft и OpenAI пока не обнаружили каких-либо «серьёзных атак» с использованием LLM, но компании закрыли все аккаунты и активы, связанные с этими хакерскими группами. «В то же время мы считаем важным опубликовать это исследование, чтобы выявить прогрессивные действия на ранней стадии, которые, как мы видим, предпринимают известные злоумышленники, и поделиться информацией о том, как мы блокируем и противодействуем им, с сообществом защитников». — говорит Microsoft.

Хотя использование ИИ в кибератаках в настоящее время кажется ограниченным, Microsoft предупреждает о будущих сценариях использования, таких как подмена голоса. «Еще одной серьезной проблемой является мошенничество с использованием искусственного интеллекта. Преобразование текста в речь — один из примеров, когда трехсекундный образец голоса может научить модель звучать как кто угодно», — объясняет Microsoft. «Даже что-то столь безобидное, как ваше голосовое приветствие, можно использовать для получения достаточного образца».

Естественно, решение Microsoft использует ИИ для реагирования на атаки ИИ. «ИИ может помочь злоумышленникам сделать свои атаки более изощренными, и у них есть для этого ресурсы», — говорит Хома Хайятифар, главный менеджер отдела аналитики обнаружения в Microsoft. «Мы видели это на примере более чем 300 злоумышленников, отслеживаемых Microsoft, и мы используем ИИ для защиты, обнаружения и реагирования. »

Microsoft разрабатывает Security Copilot, новый помощник с искусственным интеллектом, который позволит специалистам по кибербезопасности выявлять нарушения и лучше понимать огромные объемы сигналов и данных, ежедневно генерируемых инструментами кибербезопасности. Гигант программного обеспечения также пересматривает безопасность своего программного обеспечения после крупных атак на облако Azure и даже после того, как российские хакеры шпионили за руководителями Microsoft.

ЧИТАТЬ   LL Cool J смеется над мыслью о том, что Миранда Ламберт остановила концерт, чтобы отругать фанатов, делающих селфи: «Выздоравливай, детка!»

Source

От admin