В DevOps.com предлагат автономността на ИИ при реакция на инциденти да се раздели на три нива.

На първото ниво ИИ автоматично отстранява добре познати и обратими инциденти.

На второто ниво ИИ разследва инцидента и препоръчва действие, а човек изрично го одобрява. На третото ниво хората вземат решения при нови, сложни или високорискови инциденти, а ИИ събира доказателства и проверява хипотези.

Предлага се нивото да се избира според познатостта на срива, мащаба на възможните щети, обратимостта на действието и убедителността на данните на агента. Авторът предлага окончателното решение за автономност да се взема извън езиковия модел по детерминистични правила за достъп и ескалация.

Проверка на твърденията:

  • DevOps.com предлага автономността на ИИ при реакция на инциденти да се раздели на три нива. (потвърдено от самата публикация: доказателство; «The practical answer is tiered autonomy.»)
  • На първото ниво ИИ автоматично отстранява добре познати и обратими инциденти. (потвърдено от самата публикация: доказателство; «Tier 1 automates well-understood and reversible incidents.»)
  • На второто ниво ИИ разследва инцидента и препоръчва действие, а човек изрично го одобрява. (потвърдено от самата публикация: доказателство; «Tier 2 lets the agent investigate and recommend, while a human explicitly approves the action.»)
  • На третото ниво хората вземат решения при нови, сложни или високорискови инциденти, а ИИ събира доказателства и проверява хипотези. (потвърдено от самата публикация: доказателство; «Tier 3 keeps people in command for novel, complex or high-impact incidents while the agent accelerates evidence collection and hypothesis testing.»)
  • Предлага се нивото да се избира според познатостта на срива, мащаба на възможните щети, обратимостта на действието и убедителността на данните на агента. (потвърдено от самата публикация: доказателство; «Incident tiers should be based on factors including familiarity, blast radius, reversibility and the strength of the agent’s supporting evidence.»)
  • Авторът предлага окончателното решение за автономност да се взема извън езиковия модел по детерминистични правила за достъп и ескалация. (потвърдено от самата публикация: доказателство; «The safest approach is to keep the final autonomy decision outside the LLM, using deterministic policy controls to enforce permissions and escalation rules.»)

Първоизточници:

оценка 65,9 от 100 · вид: наръчник