Выпуск awesome-infra-for-ai от 21 сентября перечисляет семь проектов в четырёх разделах: защита ИИ, оценка моделей, инфраструктура для обслуживания моделей и оркестрация работы агентов. Doberman-Core, локальный фильтр действий агентов для написания кода, работает между агентом и его инструментами и останавливает разрушительные команды и команды, выводящие данные.

Probity до запуска проверяет каждую запись файла и shell-команду, чтобы применять правила разработки. OpenAFW работает как локальный прокси перед вызовами API Anthropic, OpenAI и Gemini и заменяет секреты в исходящих запросах заполнителями.

В раздел оценки вошли OpenCompass для запуска стандартизированных тестов моделей и Keystone Bench для проверки изменений медицинских советов чат-ассистента. fastembed-rs локально создаёт встраивания, числовые представления текста и изображений, и оценки для переранжирования через ONNX Runtime, среду запуска моделей, без Python и GPU.

Idun превращает агента LangGraph или Google ADK в самостоятельный сервис FastAPI с чатом, панелью администратора, трассировкой и управлением инструментами MCP.

Проверка утверждений:

  • Выпуск от 21 сентября перечисляет семь проектов в четырёх разделах: защита ИИ, оценка моделей, инфраструктура для обслуживания моделей и оркестрация работы агентов. (подтверждено самой публикацией: доказательство; «AI Safety & Guardrails DobermanCore/Doberman-Core nizos/probity openguardrails/openafw LLM Evaluation & Testing open-compass/opencompass xinxuxin/keystone-bench Model Serving Frameworks anush008/fastembed-rs Workflow Orchestration for AI Idun-Group/idun-agent-platform»)
  • Doberman-Core, локальный фильтр действий агентов для написания кода, работает между агентом и его инструментами и останавливает разрушительные команды и команды, выводящие данные. (подтверждено самой публикацией: доказательство; «Local, open-source runtime guardrail that sits between AI coding agents and their tools, giving every action a PASS/AUTH/BLOCK verdict to stop destructive or exfiltrating commands before they run.»)
  • Probity до запуска проверяет каждую запись файла и shell-команду, чтобы применять правила разработки. (подтверждено самой публикацией: доказательство; «checking every file write and shell command before it runs.»)
  • OpenAFW работает как локальный прокси перед вызовами API Anthropic, OpenAI и Gemini и заменяет секреты в исходящих запросах заполнителями. (подтверждено самой публикацией: доказательство; «Local proxy that sits in front of Anthropic, OpenAI, and Gemini API calls from coding agents, replacing secrets in outgoing requests with placeholders and restoring them in responses so raw keys never reach the model or provider.»)
  • В раздел оценки вошли OpenCompass для запуска стандартизированных тестов моделей и Keystone Bench для проверки изменений медицинских советов чат-ассистента. (подтверждено самой публикацией: доказательство; «Open-source LLM evaluation platform for running standardized benchmarks across models, with configurable datasets, prompt templates, and an official public leaderboard. xinxuxin/keystone-bench - Evaluation benchmark that tests whether chat assistants change clinical advice correctly when a decisive fact is added, removed, or contradicted»)
  • fastembed-rs локально создаёт встраивания, числовые представления текста и изображений, и оценки для переранжирования через ONNX Runtime, среду запуска моделей, без Python и GPU. (подтверждено самой публикацией: доказательство; «Rust library for generating text, sparse, and image embeddings and reranking scores locally via ONNX Runtime, without a Python or GPU dependency.»)
  • Idun превращает агента LangGraph или Google ADK в самостоятельный сервис FastAPI с чатом, панелью администратора, трассировкой и управлением инструментами MCP. (подтверждено самой публикацией: доказательство; «Self-hosted, open-source production wrapper that turns a LangGraph or Google ADK agent into a FastAPI service with a chat UI, admin panel, tracing, guardrails, memory persistence, MCP tool governance, and prompt management.»)

Публикации:

Первоисточники:

оценка 54,1 из 100 · тип: релиз