https://www.anthropic.com/news/disrupting-AI-espionage
Anthropic описват първата голяма кибершпионска кампания, в която AI агент (Claude Code) е извършил 80–90% от работата почти без хора: от разузнаване и писане на експлойти до кражба на данни и документиране на атаката. Кампанията се приписва на китайска държавна група; засегнати са ~30 цели, успешните компрометирания са малко. Това рязко сваля прага за сложни атаки и изисква активно използване на AI в защитата и по-силни safeguards.
Какво се е случило:
- Време и мащаб: средата на септември 2025; около тридесет глобални цели (тех компании, финанси, химия, държавни агенции). Успехите са малко, но операцията е почти автономна.
- Актор: с висока увереност — китайска държавна група.
- Инструменти и подход: Claude Code като агент; достъп до външни инструменти (през MCP), jailbreak и маскиране като „легитимен пентест“.
- Фази: бързо разузнаване на системи и бази данни → търсене на уязвимости и писане на експлойти → събиране на креденшъли и ексфилтрация → изготвяне на подробна „бойна документация“.
- Автономност и скорост: AI е правил хиляди заявки (често по няколко в секунда); на хората са им трябвали само 4–6 ключови решения за кампания.
- Ограничения на AI: понякога е халюцинирал креденшъли или „тайни“, които се оказвали публични.
Защо е важно:
- Прагът за атаки пада: по-малко опитни групи ще могат да правят големи операции благодарение на агентни AI.
- Отговорът на защитата: Anthropic разширява детекцията, класификаторите и методите за разследване; призовава за внедряване на AI в SOC, детект, VA и IR, и за по-силни safeguards в AI платформите.
- Прозрачност: случаят е публичен за индустрията и властите; доклади ще излизат регулярно.
А вие казвате, че агентите били безполезни.