Обширная программа реформ, которую Милютин представил императору в 1862 году, легла в основу нового облика русской армии. Он в общих чертах продержится более полувека, до самого конца Российской Империи. Перед Россией стояли вызовы не менее грозные, чем во времена Николая, и следовало быть к ним готовыми.
Милютин начал с организационных реформ. Появились военные округа, на которые возложили административную работу, логистику мирного времени, координацию работы с военным министерством, мобилизацию и тому подобные вопросы. Многоступенчатую сложную структуру Военного министерства Милютин тоже реорганизовал, урезал многочисленные управления, штабы и департаменты и создал более стройную, единообразную систему руководства вооруженными силами, причем снизилось одновременно и количество военных чиновников, и объем выполняемой ими работы.