Microsoft Security Blog публикува материала «ASCII smuggling crosses over from AI prompt injection to phishing evasion». Материалът обяснява използването на невидими Unicode-символи за заобикаляне на филтрите за електронна поща.

Техниката ASCII smuggling премина от скриване на инструкции за ИИ-модели към избягване на филтрирането на фишинг имейли. Невидими Unicode-символи се използват за обфускиране на думи.

Думите се обфускират, преди да бъдат анализирани от филтрите за електронна поща.

Проверка на твърденията:

  • Microsoft Security Blog публикува материала Threat intelligence «ASCII smuggling crosses over from AI prompt injection to phishing evasion», който обяснява използването на невидими Unicode-символи за заобикаляне на филтрите за електронна поща. (потвърдено от първоизточника: доказателство; «Threat intelligence September 3 17 min read ASCII smuggling crosses over from AI prompt injection to phishing evasion Invisible Unicode characters popularized for hiding instructions from AI models are now being used to obfuscate words before email filters parse them.»)
  • Техниката ASCII smuggling премина от скриване на инструкции за ИИ-модели към избягване на филтрирането на фишинг имейли. (потвърдено от първоизточника: доказателство; «ASCII smuggling crosses over from AI prompt injection to phishing evasion»)
  • Невидими Unicode-символи вече се използват за обфускиране на думи, преди да бъдат анализирани от филтрите за електронна поща. (потвърдено от първоизточника: доказателство; «Invisible Unicode characters popularized for hiding instructions from AI models are now being used to obfuscate words before email filters parse them.»)
  • В кампанията са използвани Unicode tag characters от диапазона U+E0000–U+E007F, които не се показват в повечето интерфейси, но променят низа, обработван от програмата. (не е намерено в първоизточника: доказателство)
  • Нападателите са вмъквали тези символи в думите «funding», «loan» и «credit», за да не откриват филтрите точно съвпадение. (не е намерено в първоизточника: доказателство)
  • Сигнатурата за откриване на ASCII smuggling е сработила за около 21 000 съобщения преди кампанията, след това за повече от 1,3 млн., а два дни по-късно за повече от 2,3 млн. съобщения. (не е намерено в първоизточника: доказателство)
  • Получателите са виждали обичайни оферти за бизнес заеми и кредитни линии въпреки скритите символи в текста на имейлите. (не е намерено в първоизточника: доказателство)
  • Вмъкването на неочакван Unicode-символ в дума променя токенизацията на текста в NLP-системите и затова може да скрие злонамерено съдържание от ИИ-системите. (не е намерено в първоизточника: доказателство)

Публикации:

Първоизточници:

оценка 77.5 · тип incident · ревизия 1 · истории st-19cdpl0