Випуск awesome-infra-for-ai за 21 вересня перелічує сім проєктів у чотирьох розділах: безпека ШІ, оцінювання моделей, інфраструктура для обслуговування моделей і оркестрація роботи агентів.

Doberman-Core, локальний фільтр дій агентів для написання коду, працює між агентом та його інструментами й зупиняє руйнівні команди та команди, що виводять дані. Probity до запуску перевіряє кожен запис файлу та shell-команду, щоб застосовувати правила розробки. OpenAFW працює як локальний проксі перед викликами API Anthropic, OpenAI та Gemini і замінює секрети у вихідних запитах заповнювачами.

До розділу оцінювання увійшли OpenCompass для запуску стандартизованих тестів моделей і Keystone Bench для перевірки змін медичних порад чат-асистента. fastembed-rs локально створює вбудовування, числові подання тексту й зображень, та оцінки для переранжування через ONNX Runtime, середовище запуску моделей, без Python і GPU.

Idun перетворює агента LangGraph або Google ADK на самостійний сервіс FastAPI із чатом, панеллю адміністратора, трасуванням і керуванням інструментами MCP.

Перевірка тверджень:

  • Випуск за 21 вересня перелічує сім проєктів у чотирьох розділах: безпека ШІ, оцінювання моделей, інфраструктура для обслуговування моделей і оркестрація роботи агентів. (підтверджено самою публікацією: доказ; «AI Safety & Guardrails DobermanCore/Doberman-Core nizos/probity openguardrails/openafw LLM Evaluation & Testing open-compass/opencompass xinxuxin/keystone-bench Model Serving Frameworks anush008/fastembed-rs Workflow Orchestration for AI Idun-Group/idun-agent-platform»)
  • Doberman-Core, локальний фільтр дій агентів для написання коду, працює між агентом та його інструментами й зупиняє руйнівні команди та команди, що виводять дані. (підтверджено самою публікацією: доказ; «Local, open-source runtime guardrail that sits between AI coding agents and their tools, giving every action a PASS/AUTH/BLOCK verdict to stop destructive or exfiltrating commands before they run.»)
  • Probity до запуску перевіряє кожен запис файлу та shell-команду, щоб застосовувати правила розробки. (підтверджено самою публікацією: доказ; «checking every file write and shell command before it runs.»)
  • OpenAFW працює як локальний проксі перед викликами API Anthropic, OpenAI та Gemini і замінює секрети у вихідних запитах заповнювачами. (підтверджено самою публікацією: доказ; «Local proxy that sits in front of Anthropic, OpenAI, and Gemini API calls from coding agents, replacing secrets in outgoing requests with placeholders and restoring them in responses so raw keys never reach the model or provider.»)
  • До розділу оцінювання увійшли OpenCompass для запуску стандартизованих тестів моделей і Keystone Bench для перевірки змін медичних порад чат-асистента. (підтверджено самою публікацією: доказ; «Open-source LLM evaluation platform for running standardized benchmarks across models, with configurable datasets, prompt templates, and an official public leaderboard. xinxuxin/keystone-bench - Evaluation benchmark that tests whether chat assistants change clinical advice correctly when a decisive fact is added, removed, or contradicted»)
  • fastembed-rs локально створює вбудовування, числові подання тексту й зображень, та оцінки для переранжування через ONNX Runtime, середовище запуску моделей, без Python і GPU. (підтверджено самою публікацією: доказ; «Rust library for generating text, sparse, and image embeddings and reranking scores locally via ONNX Runtime, without a Python or GPU dependency.»)
  • Idun перетворює агента LangGraph або Google ADK на самостійний сервіс FastAPI із чатом, панеллю адміністратора, трасуванням і керуванням інструментами MCP. (підтверджено самою публікацією: доказ; «Self-hosted, open-source production wrapper that turns a LangGraph or Google ADK agent into a FastAPI service with a chat UI, admin panel, tracing, guardrails, memory persistence, MCP tool governance, and prompt management.»)

Публікації:

Першоджерела:

оцінка 54,1 зі 100 · тип: реліз