Microsoft Security Blog опублікував матеріал «ASCII smuggling crosses over from AI prompt injection to phishing evasion». Матеріал пояснює використання невидимих Unicode-символів для обходу поштових фільтрів.

Техніка ASCII smuggling перейшла від приховування інструкцій для ШІ-моделей до обходу фільтрації фішингових листів. Невидимі Unicode-символи використовують для обфускації слів.

Слова обфускують до того, як їх аналізують поштові фільтри.

Перевірка тверджень:

  • Microsoft Security Blog опублікував матеріал Threat intelligence «ASCII smuggling crosses over from AI prompt injection to phishing evasion», який пояснює використання невидимих Unicode-символів для обходу поштових фільтрів. (підтверджено першоджерелом: доказ; «Threat intelligence September 3 17 min read ASCII smuggling crosses over from AI prompt injection to phishing evasion Invisible Unicode characters popularized for hiding instructions from AI models are now being used to obfuscate words before email filters parse them.»)
  • Техніка ASCII smuggling перейшла від приховування інструкцій для ШІ-моделей до обходу фільтрації фішингових листів. (підтверджено першоджерелом: доказ; «ASCII smuggling crosses over from AI prompt injection to phishing evasion»)
  • Невидимі Unicode-символи тепер використовують для обфускації слів до того, як їх аналізують поштові фільтри. (підтверджено першоджерелом: доказ; «Invisible Unicode characters popularized for hiding instructions from AI models are now being used to obfuscate words before email filters parse them.»)
  • У кампанії застосовували Unicode tag characters з діапазону U+E0000–U+E007F, які не відображаються в більшості інтерфейсів, але змінюють рядок, який обробляє програма. (у першоджерелі не знайдено: доказ)
  • Зловмисники вставляли ці символи у слова «funding», «loan» і «credit», щоб фільтри не знаходили точного збігу. (у першоджерелі не знайдено: доказ)
  • Сигнатура пошуку ASCII smuggling спрацювала приблизно на 21 000 повідомлень до кампанії, потім більш ніж на 1,3 млн, а через два дні — більш ніж на 2,3 млн повідомлень. (у першоджерелі не знайдено: доказ)
  • Одержувачі бачили звичайні пропозиції бізнес-позик і кредитних ліній, попри приховані символи в тілі листів. (у першоджерелі не знайдено: доказ)
  • Вставляння неочікуваного Unicode-символу в слово змінює токенізацію тексту в NLP-системах і тому може приховувати шкідливий вміст від ШІ-систем. (у першоджерелі не знайдено: доказ)

Публікації:

Першоджерела:

оцінка 77.5 · тип incident · ревізія 1 · історії st-19cdpl0