OpenShell описав, як за допомогою Z3, розв’язувача логічних обмежень, формально перевіряти зміни прав, запропоновані ШІ-агентами. Перевірка з’ясовує, чи може запропонована політика дозволити дію, якої не дозволяє еталонна політика.
Для мережевої дії модуль перевірки OpenShell моделює виконуваний файл, хост, порт, мережевий рівень, HTTP-метод і шлях.
Перед затвердженням кожної запропонованої політики OpenShell запускає чотири вбудовані експертні перевірки безпеки.
Перевірка тверджень:
- OpenShell описав застосування Z3 для формальної перевірки того, чи залишається запропонована ШІ-агентом зміна політики в межах уже затверджених прав. (підтверджено самою публікацією: доказ; «In this post- we’ll dive into how permission review breaks at agent scale, and how to use the Z3 open source library to write a formal proof that a policy change proposed by an agent stays inside what you approved.»)
- Перевірка з’ясовує, чи може запропонована політика дозволити дію, якої не дозволяє еталонна політика. (підтверджено самою публікацією: доказ; «asks if a proposed policy can do any actions that a expert pre-defined policy (for example, Github read-only) cannot do.»)
- Для мережевої дії модуль перевірки OpenShell моделює виконуваний файл, хост, порт, мережевий рівень, HTTP-метод і шлях. (підтверджено самою публікацією: доказ; «OpenShell’s runtime prover models the following attributes for any network action: action = { binary: String, host: String, port: Int, layer: String, method: String, path: String }»)
- Перед затвердженням кожної запропонованої політики OpenShell запускає чотири вбудовані експертні перевірки безпеки. (підтверджено самою публікацією: доказ; «Today, the OpenShell policy prover encodes the following expert queries which run on every proposed policy before approval.»)
Першоджерела:
оцінка 65,3 зі 100 · тип: посібник