METR опубликовала разбор двух заметных инцидентов безопасности. В нём организация показывает обстоятельства инцидентов и последовавшие меры.

В марте 2026 года злоумышленники похитили API-ключ METR для инференса на публичных моделях и израсходовали значительный объём кредитов. Украденные учётные данные использовали около трёх недель, а их расход на публичные модели оценён примерно в 600 тысяч долларов, хотя кредиты были предоставлены METR бесплатно.

Первый инцидент стал возможен из-за fail-open уязвимости в приложении на личном публично доступном EC2-инстансе: она незаметно отключила аутентификацию на несколько дней. В начале мая METR столкнулась с продолжительной внешней атакой, в которой злоумышленники с активным использованием агентов автоматизировали поиск уязвимостей.

В публичном просмотрщике транскриптов METR случайно открыла механизм read-only SQL-запросов, позволявший получить неопубликованные результаты оценки. После инцидентов организация изолировала публичную production-среду от внутренней инфраструктуры и усиливает журналирование и мониторинг необычного использования API-ключей.

Проверка утверждений:

  • METR опубликовала разбор двух заметных инцидентов безопасности, чтобы показать обстоятельства инцидентов и последовавшие меры. (подтверждено самой публикацией: доказательство; «METR had two notable security incidents earlier this year. Following a thorough investigation in collaboration with our security consultants, we believe no sensitive information was accessed in either of these incidents. Nonetheless, we believe it is valuable to share information about how these incidents look in practice and the steps we took as a result.»)
  • В марте 2026 года злоумышленники похитили API-ключ METR для инференса на публичных моделях и израсходовали значительный объём кредитов. (подтверждено самой публикацией: доказательство; «In March 2026, attackers stole an API key for inference on public models and consumed a substantial amount of credits.»)
  • Украденные учётные данные использовали около трёх недель; их расход на публичные модели оценён примерно в 600 тысяч долларов, хотя кредиты были предоставлены METR бесплатно. (подтверждено самой публикацией: доказательство; «Upon finding the deployed system, the attacker prompted an agent directly to reveal its model provider API key, added an SSH key for persistent access, and over the course of three weeks used the stolen credentials to consume a significant amount of API credits on publicly-available models. These credits would have been worth approximately $600,000, although the model developer had granted them to METR for free.»)
  • Первый инцидент стал возможен из-за fail-open уязвимости в приложении на личном публично доступном EC2-инстансе: она незаметно отключила аутентификацию на несколько дней. (подтверждено самой публикацией: доказательство; «The vibe-coded app included a fail-open vulnerability that silently disabled authentication, which led to the system being exposed to the public internet for several days.»)
  • В начале мая METR столкнулась с продолжительной внешней атакой: злоумышленники с активным использованием агентов автоматизировали поиск уязвимостей, включая credential stuffing, OAuth-запросы, сканирование сервисов и фишинг сотрудников. (подтверждено самой публикацией: доказательство; «We observed the attackers systematically probing our publicly accessible infrastructure, with heavy use of agents to automate vulnerability discovery, including by credential stuffing authentication providers, attempting OAuth token grants, scanning newly deployed services, and attempting to phish staff.»)
  • Одновременно в публичном просмотрщике транскриптов METR случайно открыла механизм read-only SQL-запросов: дефект позволял получить неопубликованные результаты оценки, а в базе по ошибке были и некоторые чувствительные данные моделей. (подтверждено самой публикацией: доказательство; «The queries were scoped to public data by default, but a bug could be exploited to access unpublished evaluation data. This dataset was supposed to contain only data from non-sensitive models, i.e. category 2 above. However, some sensitive model data (i.e. category 3 above) was accidentally included in this database.»)
  • По данным METR, атакующие проверили этот endpoint, но свидетельств того, что они нашли уязвимость или получили доступ к непубличным данным, нет. (подтверждено самой публикацией: доказательство; «The attackers had probed this endpoint in passing as part of their broader campaign, but the evidence shows no indication that they discovered the exploit or accessed any non-public data.»)
  • После инцидентов METR изолировала публичную production-среду от внутренней инфраструктуры, чтобы ошибка конфигурации публичного сервиса не могла раскрыть внутренние данные. (подтверждено самой публикацией: доказательство; «We now maintain an isolated public production environment for public-facing applications that is architecturally separated from our internal infrastructure, so that a misconfiguration in a public service cannot expose internal data.»)
  • METR также наняла руководителя по безопасности, расширяет команду и поддержку внешнего партнёра Calif, усиливает журналирование и мониторинг необычного использования API-ключей. (подтверждено самой публикацией: доказательство; «We hired a security lead, and are planning to further expand our security staff, including by hiring a full-time security engineer . We also increased our support from Calif.»)

Первоисточники:

оценка 71.0 · тип incident · ревизия 1 · истории st-1l18309