23 июня 1941 года для воронежской милиции было введено казарменное положение; на фронт было отправлено более 8 тыс. милиционеров. В сентябре 1941 года был сформирован Воронежский добровольческий полк, который вошёл в состав 100-й стрелковой дивизии. По пути на фронт ей первой было присвоено звание 1-й гвардейской стрелковой дивизии; полк впоследствии тоже стал гвардейским и закончил войну освобождением австрийской столицы Вены весной 1945 года. В связи с приближением к Воронежу немецких войск 22 октября 1941 года был создан городской комитет обороны. 7 ноября 1941 года по указанию ставки в Воронеже в ознаменование годовщины победы Октябрьской революции был проведён парад войск. Таких парадов было всего три — в Москве, Куйбышеве и Воронеже. С 7 июля 1942 года по 25 января 1943 года Воронеж, частично находясь под немецкой оккупацией, понёс значительный ущерб. По данным комиссии Государственного контроля, в Воронеже было разрушено 18 тыс. домов (92 % всех жилых зданий). Имеются подтверждённые факты того, что на оккупированной территории Воронежа немецкие военнослужащие неоднократно убивали мирных жителей (в том числе женщин и детей).