Авторы разбора сообщили, что их система анализировала ответы Gemini, ChatGPT и Google AI Overview и фиксировала инцидент, когда ответ ссылался на ложный номер телефона, URL или адрес электронной почты. Они заявили, что обнаружили атаки на 374 компании, включая крупные авиакомпании, банки, туристические платформы и поставщиков ПО.
Авторы пишут, что злоумышленники размещают оптимизированные материалы, PDF, отзывы и поддельные страницы поддержки, чтобы ИИ представлял мошеннические номера, адреса электронной почты и страницы входа как достоверные. В разборе указано, что при повторном запросе модель не всегда ссылалась на ложный номер.
Проверка утверждений:
- Авторы сообщили, что их система анализировала ответы Gemini, ChatGPT и Google AI Overview и отмечала инцидент, когда ответ ссылался на ложный номер телефона, URL или адрес электронной почты. (подтверждено самой публикацией: доказательство; «To check if there are real GEO attacks out there, we built a system that analyzes AI answers across Gemini, ChatGPT, and Google AI Overview (Google’s top search result), and the sources they rely on. The system scores the sources and the content that is fetched from them, and looks for any GEO techniques used to push disinformation. When we detected a false detail (phone number, URL, email address, etc) being cited, we marked it as an incident.»)
- Авторы заявили, что обнаружили атаки на 374 компании, включая компании из Fortune 100, крупные авиакомпании, банки, туристические платформы и поставщиков ПО. (подтверждено самой публикацией: доказательство; «In total, we detected 374 companies that are attacked. Including Fortune 100 organizations, major airlines (Delta, Lufthansa, United Airlines, Emirates, Qatar and more), top banks (Bank of America, Wells Fargo, Chase, Citi, etc), travel platforms (Airbnb, TripAdvisor), various software providers, and more.»)
- Авторы написали, что злоумышленники размещают оптимизированные материалы, PDF, отзывы и поддельные страницы поддержки, чтобы ИИ выдавал мошеннические номера, адреса электронной почты и страницы входа как доверенные ответы. (подтверждено самой публикацией: доказательство; «Attackers are flooding the web with carefully optimized posts, PDFs, reviews, and fake support pages, to trick AI into presenting fraudulent phone numbers, email addresses, and login pages.»)
- Авторы указали, что результаты больших языковых моделей непостоянны: при повторном запросе модель не всегда ссылалась на ложный номер. (подтверждено самой публикацией: доказательство; «As LLM results are inconsistent, we saw that the attack (LLM citing the fake number) did not reproduce every time we ran the query.»)
Первоисточники:
оценка 65,1 из 100 · тип: разбор