В составе Управления Комендатуры Московского Кремля музей практически теряет свою самостоятельность как учреждение культуры. Отсутствие квалифицированных музейных специалистов, прерванные контакты с музейной общественностью, затрудненный доступ экскурсантов превращают музей в хранилище экспонатов.
В марте 1939 года директором Государственной Оружейной палаты был назначен Николай Никитович Захаров. Инженер по образованию, он также как и его предшественники - директора 30-х годов, не имел никакого опыта музейной работы. Но его добросовестность, стремление освоить новую профессию помогли ему успешно руководить работой сотрудников музея в очень не простой период его истории. В 1938-39 годах в музее работает Комиссия по учету музейного имущества и материальных ценности Государственной Оружейной палаты и Памятников Кремля. Она отмечает ряд недостатков в постановке учета и хранения. Под руководством Н.Н.Захарова в 1940 г. начинается работа по составлению новых учетных документов.
В июне 1941 года работа была прервана Великой Отечественной войной. Сотрудники музея, при активной помощи со стороны Коменданта Кремля генерала Н.К. Спиридонова, спешно упаковали и летом 1941 года эвакуировали сокровища кремлевского музея в Свердловск. В период эвакуации продолжалась начатая еще перед войной работа по созданию единой охранной описи всех коллекций музея.
Из эвакуации вещи были возвращены 20 февраля 1945 года, а уже в апреле была открыта первая после войны экспозиция музея.
После окончания Великой Отечественной войны по всем архитектурным памятникам Кремля ведутся научно-реставрационные работы.