В DevOps.com предложили разделить автономность ИИ при реагировании на инциденты на три уровня.

На первом уровне ИИ автоматически устраняет хорошо изученные и обратимые инциденты. На втором уровне ИИ расследует инцидент и рекомендует действие, а человек явно его одобряет.

На третьем уровне люди принимают решения при новых, сложных или высокорисковых инцидентах, а ИИ собирает доказательства и проверяет гипотезы.

Уровень предлагают выбирать по изученности сбоя, возможному ущербу, обратимости действия и убедительности данных агента. Автор предлагает принимать окончательное решение об автономности вне языковой модели — по детерминированным правилам доступа и эскалации.

Проверка утверждений:

  • DevOps.com предложил разделить автономность ИИ при реагировании на инциденты на три уровня. (подтверждено самой публикацией: доказательство; «The practical answer is tiered autonomy.»)
  • На первом уровне ИИ автоматически устраняет хорошо изученные и обратимые инциденты. (подтверждено самой публикацией: доказательство; «Tier 1 automates well-understood and reversible incidents.»)
  • На втором уровне ИИ расследует инцидент и рекомендует действие, а человек явно его одобряет. (подтверждено самой публикацией: доказательство; «Tier 2 lets the agent investigate and recommend, while a human explicitly approves the action.»)
  • На третьем уровне люди принимают решения при новых, сложных или высокорисковых инцидентах, а ИИ собирает доказательства и проверяет гипотезы. (подтверждено самой публикацией: доказательство; «Tier 3 keeps people in command for novel, complex or high-impact incidents while the agent accelerates evidence collection and hypothesis testing.»)
  • Уровень предлагают выбирать по изученности сбоя, возможному ущербу, обратимости действия и убедительности данных агента. (подтверждено самой публикацией: доказательство; «Incident tiers should be based on factors including familiarity, blast radius, reversibility and the strength of the agent’s supporting evidence.»)
  • Автор предлагает принимать окончательное решение об автономности вне языковой модели — по детерминированным правилам доступа и эскалации. (подтверждено самой публикацией: доказательство; «The safest approach is to keep the final autonomy decision outside the LLM, using deterministic policy controls to enforce permissions and escalation rules.»)

Первоисточники:

оценка 65,9 из 100 · тип: руководство