Изданието на awesome-infra-for-ai от 21 септември изброява седем проекта в четири раздела: безопасност на ИИ, оценяване на модели, инфраструктура за обслужване на модели и оркестриране на работата на агенти.

Doberman-Core, локален филтър за действията на агенти за писане на код, работи между агента и неговите инструменти и спира разрушителни команди и команди, които извеждат данни. Probity проверява всеки запис във файл и shell-команда преди изпълнение, за да прилага правила за разработка. OpenAFW работи като локален прокси пред извикванията към API на Anthropic, OpenAI и Gemini и заменя тайните в изходящите заявки със заместители.

В раздела за оценяване са включени OpenCompass за изпълнение на стандартизирани тестове на модели и Keystone Bench за проверка на промени в медицинските съвети на чат асистент. fastembed-rs създава локално вграждания, числови представяния на текст и изображения, и оценки за пренареждане чрез ONNX Runtime, среда за изпълнение на модели, без Python и GPU.

Idun превръща агент на LangGraph или Google ADK в самостоятелна услуга FastAPI с чат, административен панел, проследяване и управление на MCP инструменти.

Проверка на твърденията:

  • Изданието от 21 септември изброява седем проекта в четири раздела: безопасност на ИИ, оценяване на модели, инфраструктура за обслужване на модели и оркестриране на работата на агенти. (потвърдено от самата публикация: доказателство; «AI Safety & Guardrails DobermanCore/Doberman-Core nizos/probity openguardrails/openafw LLM Evaluation & Testing open-compass/opencompass xinxuxin/keystone-bench Model Serving Frameworks anush008/fastembed-rs Workflow Orchestration for AI Idun-Group/idun-agent-platform»)
  • Doberman-Core, локален филтър за действията на агенти за писане на код, работи между агента и неговите инструменти и спира разрушителни команди и команди, които извеждат данни. (потвърдено от самата публикация: доказателство; «Local, open-source runtime guardrail that sits between AI coding agents and their tools, giving every action a PASS/AUTH/BLOCK verdict to stop destructive or exfiltrating commands before they run.»)
  • Probity проверява всеки запис във файл и shell-команда преди изпълнение, за да прилага правила за разработка. (потвърдено от самата публикация: доказателство; «checking every file write and shell command before it runs.»)
  • OpenAFW работи като локален прокси пред извикванията към API на Anthropic, OpenAI и Gemini и заменя тайните в изходящите заявки със заместители. (потвърдено от самата публикация: доказателство; «Local proxy that sits in front of Anthropic, OpenAI, and Gemini API calls from coding agents, replacing secrets in outgoing requests with placeholders and restoring them in responses so raw keys never reach the model or provider.»)
  • В раздела за оценяване са включени OpenCompass за изпълнение на стандартизирани тестове на модели и Keystone Bench за проверка на промени в медицинските съвети на чат асистент. (потвърдено от самата публикация: доказателство; «Open-source LLM evaluation platform for running standardized benchmarks across models, with configurable datasets, prompt templates, and an official public leaderboard. xinxuxin/keystone-bench - Evaluation benchmark that tests whether chat assistants change clinical advice correctly when a decisive fact is added, removed, or contradicted»)
  • fastembed-rs създава локално вграждания, числови представяния на текст и изображения, и оценки за пренареждане чрез ONNX Runtime, среда за изпълнение на модели, без Python и GPU. (потвърдено от самата публикация: доказателство; «Rust library for generating text, sparse, and image embeddings and reranking scores locally via ONNX Runtime, without a Python or GPU dependency.»)
  • Idun превръща агент на LangGraph или Google ADK в самостоятелна услуга FastAPI с чат, административен панел, проследяване и управление на MCP инструменти. (потвърдено от самата публикация: доказателство; «Self-hosted, open-source production wrapper that turns a LangGraph or Google ADK agent into a FastAPI service with a chat UI, admin panel, tracing, guardrails, memory persistence, MCP tool governance, and prompt management.»)

Публикации:

Първоизточници:

оценка 54,1 от 100 · вид: издание