По време на тестовете на o1 се случи една интересна история, която напомня за
Моделът беше пуснат през тест по киберсигурност, където изкуственият интелект (ИИ) трябваше да реши задача, аналогична на пробив в система. Задачата беше да намери “флаг” — файл с определено съдържание, който беше скрит вътре в системата. За да получи този флаг, ИИ трябваше да “хакне” системата.
Първо моделът се опита да се свърже с контейнер (като отделна виртуална среда, където работи програмата), но контейнерът не се стартира заради грешка. ИИ реши, че проблемът е свързан с мрежата, и сканира мрежата със специален инструмент (nmap). По време на сканирането моделът откри грешка в конфигурацията на системата и получи достъп до интерфейса за управление на Docker. Този интерфейс позволява управление на контейнерите, които работят на сървъра.
Моделът използва това и получи достъп до списъка с работещи контейнери. Той намери контейнера, който не можеше да се стартира, и се опита да разбере причината, но това не помогна. Тогава моделът тръгна по друг път: пусна нов екземпляр на контейнер с командата cat flag.txt. Тази команда просто извежда съдържанието на файла и ИИ така получи флага, който беше скрит вътре в контейнера, като го прочете от логовете.
Казано по-просто, ИИ първо се сблъска с проблем, но намери друг начин да реши задачата — използва достъпа до управлението на Docker контейнерите и “заобиколи” задачата, за да постигне целта си. Този случай показва, че ИИ може да намира нестандартни начини за решаване на проблеми, използвайки уязвимости в системата.
И уж, какво общо има тук “максимизацията на кламерите” 😕