Microsoft Security Blog опубликовал материал «ASCII smuggling crosses over from AI prompt injection to phishing evasion». Материал объясняет применение невидимых Unicode-символов для обхода почтовых фильтров.

Техника ASCII smuggling перешла от сокрытия инструкций для ИИ-моделей к уклонению от фильтрации фишинговых писем. Невидимые Unicode-символы используют для обфускации слов.

Слова обфусцируют до того, как их разбирают почтовые фильтры.

Проверка утверждений:

  • Microsoft Security Blog опубликовал материал Threat intelligence «ASCII smuggling crosses over from AI prompt injection to phishing evasion», объясняющий применение невидимых Unicode-символов для обхода почтовых фильтров. (подтверждено первоисточником: доказательство; «Threat intelligence September 3 17 min read ASCII smuggling crosses over from AI prompt injection to phishing evasion Invisible Unicode characters popularized for hiding instructions from AI models are now being used to obfuscate words before email filters parse them.»)
  • Техника ASCII smuggling перешла от сокрытия инструкций для ИИ-моделей к уклонению от фильтрации фишинговых писем. (подтверждено первоисточником: доказательство; «ASCII smuggling crosses over from AI prompt injection to phishing evasion»)
  • Невидимые Unicode-символы теперь используют для обфускации слов до того, как их разбирают почтовые фильтры. (подтверждено первоисточником: доказательство; «Invisible Unicode characters popularized for hiding instructions from AI models are now being used to obfuscate words before email filters parse them.»)
  • В кампании применялись Unicode tag characters из диапазона U+E0000–U+E007F, которые не отображаются в большинстве интерфейсов, но меняют строку, обрабатываемую программой. (в первоисточнике не найдено: доказательство)
  • Атакующие вставляли эти символы в слова «funding», «loan» и «credit», чтобы фильтры не находили точного совпадения. (в первоисточнике не найдено: доказательство)
  • Сигнатура охоты на ASCII smuggling сработала примерно на 21 000 сообщений перед кампанией, затем более чем на 1,3 млн, а через два дня — более чем на 2,3 млн сообщений. (в первоисточнике не найдено: доказательство)
  • Получатели видели обычные предложения бизнес-займов и кредитных линий, несмотря на скрытые символы в теле писем. (в первоисточнике не найдено: доказательство)
  • Вставка неожиданного Unicode-символа в слово меняет токенизацию текста в NLP-системах и поэтому может скрывать вредоносное содержимое от ИИ-систем. (в первоисточнике не найдено: доказательство)

Публикации:

Первоисточники:

оценка 77.5 · тип incident · ревизия 1 · истории st-19cdpl0