В список awesome-infra-for-ai добавилось 7 новых репозиториев. FlowElement-xinliuyuansu/m_flow (4 490 звёзд) — Графовый поисковый движок для памяти LLM, который оценивает единицы знания по самому надёжному пути доказательств в четырёхслойном графе, а не ранжирует фрагменты только по векторной близости. onetoken-oss/K3Flight (1 009 звёзд) — Однофайловый сервер вывода для Linux, который запускает Kimi K3 на 2,8 трлн параметров на процессоре примерно с 55 ГБ занятой оперативной памяти, подгружая веса из локального NVMe-чекпоинта вместо полной загрузки. kittors/CliRelay (895 звёзд) — Самостоятельно размещаемый шлюз к нескольким поставщикам ИИ, который выводит Gemini, Claude, Codex, Qwen и совместимые с OpenAI сервисы на одну точку входа и добавляет группы маршрутизации, переключение при сбоях, журналирование запросов, квоты и многопользовательское управление. pegainfer-project/pegainfer (635 звёзд) — Движок вывода LLM, целиком написанный на Rust и CUDA без PyTorch и ONNX, который обслуживает модели от Qwen3 до Kimi-K2 с триллионом параметров по HTTP API, совместимому с OpenAI. Jwuthri/Tracely (373 звезды) — CI/CD для ИИ-агентов на основе трассировок: оценивает каждую трассировку агента сразу после её появления, группирует сбои в задачи, замораживает неудачные прогоны в герметичные воспроизводимые регрессионные случаи и блокирует пул-реквест в CI. giannisanni/pulsar (201 звезда) — Движок вывода на Rust и CUDA для огромных моделей типа Mixture-of-Experts, который на каждом токене подгружает нужных экспертов с NVMe и держит в видеопамяти потребительских видеокарт только внимание и горячих экспертов. langgenius/mosoo (114 звёзд) — Среда выполнения агентов и панель управления на базе Cloudflare, которая запускает Codex, Claude Agent SDK и OpenCode за API-эндпоинтами в изолированных песочницах, с потоковой передачей действий инструментов, устойчивыми тредами и прозрачными прогонами.