Мауро Моралес в разборе для блога CNCF предлагает отделить предложения ИИ-агента от их применения к работающей системе. Изменения нужно проверить и протестировать, а новый образ — собрать и подписать перед выпуском.

Образ системы — готовая сборка операционной системы.

Агенту нельзя разрешать одобрять или принимать собственные изменения и менять процесс сборки и выпуска. Агент также не должен публиковать или подписывать образ и принудительно устанавливать его на машину.

Автор отдельно предупреждает: защита базовой системы от изменений сама по себе не защищает всю машину. Агент по-прежнему может менять всё, к чему у него есть доступ на запись.

Проверка утверждений:

  • Мауро Моралес в разборе для блога CNCF предлагает отделить предложения ИИ-агента от их применения к работающей системе. (подтверждено самой публикацией: доказательство; «What the agent should not do is apply those changes through root access or modify a mutable system in place. Starting from the question of autonomy, an immutable system is clearly a better model than a mutable one: the agent can inspect the current state, record its assessment and open a pull request proposing the next state.»)
  • Предложенные агентом изменения должны пройти проверку, тесты, сборку нового образа системы и подпись перед выпуском. (подтверждено самой публикацией: доказательство; «That proposal can follow the same process as a human-authored change: review, testing, a new image build, signing and release. Only then is the new state consumed by the system itself.»)
  • Агенту нельзя разрешать одобрять или принимать собственные изменения, менять процесс сборки и выпуска, публиковать или подписывать образ либо принудительно устанавливать его на машину. (подтверждено самой публикацией: доказательство; «For this to be a real boundary, the agent’s identity must be allowed to propose a change without being allowed to approve or merge it, alter the pipeline, publish or sign the resulting image, or force the machine to consume it.»)
  • Автор предупреждает, что защита базовой системы от изменений сама по себе не защищает всю машину. (подтверждено самой публикацией: доказательство; «The mistake would be to assume that because the base system is protected, the rest of the machine is protected too.»)
  • Агент по-прежнему может менять всё, к чему у него есть доступ на запись. (подтверждено самой публикацией: доказательство; «The agent can also still affect every surface where it has write access.»)

Первоисточники:

оценка 60,7 из 100 · тип: разбор