Списъкът awesome-infra-for-ai получи 7 нови хранилища. FlowElement-xinliuyuansu/m_flow (4 490 звезди) — Графов търсещ двигател за паметта на LLM, който оценява единиците знание по най-силния път от доказателства в четирислоен граф, вместо да подрежда фрагменти само по векторна близост. onetoken-oss/K3Flight (1 009 звезди) — Еднофайлов сървър за извод под Linux, който пуска Kimi K3 с 2,8 трилиона параметъра на процесор с около 55 ГБ заета оперативна памет, като подава теглата от локална NVMe контролна точка вместо да ги зарежда изцяло. kittors/CliRelay (895 звезди) — Самостоятелно хостван шлюз към няколко доставчика на ИИ, който извежда Gemini, Claude, Codex, Qwen и съвместимите с OpenAI услуги зад една крайна точка и добавя групи за маршрутизиране, превключване при отказ, журнал на заявките, квоти и многопотребителско управление. pegainfer-project/pegainfer (635 звезди) — Двигател за извод на LLM, написан изцяло на Rust и CUDA без PyTorch и ONNX, който обслужва модели от Qwen3 до Kimi-K2 с трилион параметъра през HTTP API, съвместим с OpenAI. Jwuthri/Tracely (373 звезди) — CI/CD за ИИ агенти, изградено върху трасирания: оценява всяко трасиране на агент веднага щом се появи, групира отказите в задачи, замразява неуспешните изпълнения в херметични възпроизводими регресионни случаи и блокира заявката за сливане в CI. giannisanni/pulsar (201 звезди) — Двигател за извод на Rust и CUDA за огромни модели от типа Mixture-of-Experts, който при всеки токен подава нужните експерти от NVMe и държи във видеопаметта на потребителски видеокарти само вниманието и горещите експерти. langgenius/mosoo (114 звезди) — Среда за изпълнение на агенти и контролен панел върху Cloudflare, която пуска Codex, Claude Agent SDK и OpenCode зад API крайни точки в изолирани пясъчници, с поточно предаване на действията на инструментите, устойчиви нишки и прозрачни изпълнения.