Дебатът относно оптималното съхранение на памет в ИИ предлага да се премине отвъд компромиса между рекурентните скрити състояния и кешовете с ключове и стойности (KV). Изследователите проучват синаптични дизайни, които интегрират работната памет директно във вътрешната структура на модела за по-добро непрекъснато обучение.