Авторы статьи «AI Agents Push Humans Out of the Loop» призывают проектировать ИИ-агентов, системы, которым дают всё больше самостоятельности, так, чтобы они помогали человеку сохранять критическое мышление, а не только расширяли возможности систем. Это позиционная статья Маргарет Митчелл, Авиджита Гхоша и Самира Пасси.

Авторы считают, что нынешние подходы к разработке и внедрению агентных систем не обеспечивают действенный человеческий надзор и могут ослаблять нужные для него навыки. Они предлагают соединить исследования автоматизации и взаимодействия человека с компьютером с проектированием агентов и организационными правилами.

Цель этих мер — помочь людям, осуществляющим надзор, выносить критические суждения и противодействовать утрате навыков из-за долгого использования автоматизации.

Проверка утверждений:

  • Авторы статьи призывают проектировать ИИ-агентов так, чтобы они помогали человеку сохранять критическое мышление, а не только расширяли возможности систем. (подтверждено самой публикацией: доказательство; «a top priority in the advancement of AI agents should be supporting the situated goals and cognitive requirements of effective human oversight, treating the human needs of overseers at the same level of importance as AI agent capability»)
  • Это позиционная статья Маргарет Митчелл, Авиджита Гхоша и Самира Пасси. (подтверждено самой публикацией: доказательство; «Title: AI Agents Push Humans Out of the Loop Authors: Margaret Mitchell , Avijit Ghosh , Samir Passi»)
  • Авторы считают, что нынешние подходы к разработке и внедрению агентных систем не обеспечивают действенный человеческий надзор и могут ослаблять нужные для него навыки. (подтверждено самой публикацией: доказательство; «current approaches to the development and deployment of AI agent systems do not support effective human oversight – they contribute to its degradation»)
  • Они предлагают соединить исследования автоматизации и взаимодействия человека с компьютером с проектированием агентов и организационными правилами. (подтверждено самой публикацией: доказательство; «we connect work on automation and human-computer interaction to AI agent processes, outlining design-level affordances and organizational protocols»)
  • Цель этих мер — помочь людям, осуществляющим надзор, выносить критические суждения и противодействовать утрате навыков из-за долгого использования автоматизации. (подтверждено самой публикацией: доказательство; «support overseers in exercising critical judgement and (2) counteract the skill atrophy that arises from extended use of automation»)

Первоисточники:

оценка 50,5 из 100 · тип: исследование