8 мая 2007 года Анатолий Сердюков снял гриф секретности с документов Красной армии и ВМФ 1941-1945 годов. До этого ни один из его предшественников в течение 62 лет не решался их рассекретить.
30 мая 2007 года министр сообщил о программе перевооружения до 2015 года стоимостью 5 трлн руб. Для ее реализации Минобороны начало переговоры о закупке зарубежной военной техники, ужесточив отношения с российским ОПК, вплоть до подачи исков за срывы сроков поставок. В декабре 2010 года стоимость программы выросла до 20 трлн руб. до 2020 года. При этом из-за ценовых споров гособоронзаказ-2010 оказался сорван, в 2011 году подписание контрактов затянулось до ноября.
14 октября 2008 года господин Сердюков объявил о запуске военной реформы, ключевым элементом которой стал переход от четырехзвенной системы управления (военный округ, армия, дивизия, полк) к трехзвенной (округ, оперативное командование, бригада). Вместо шести округов осталось четыре, в их состав переданы силы ВВС, ПВО и ВМФ. Также были структурно реформированы ВВС и войска противовоздушной обороны.
Важным этапом стал перевод обеспечения ВС на обслуживание гражданскими организациями (питание, уборка и пр.). Одновременно началась реформа военного образования, предполагающая преобразование 65 военных учебных заведений в десять.
В ходе реформы число офицеров планировалось сократить с 335 тыс. до 150 тыс., но в феврале 2011 года из-за нехватки командиров министр объявил об увеличении офицерского корпуса до 220 тыс. Кроме того, ликвидирован институт прапорщиков (142 тыс.), которых должны заменить обученные в специальных центрах сержанты-контрактники. При этом в 2010 году Анатолий Сердюков заявил о необходимости сокращения числа контрактников со 150 тыс. до 90 тыс. человек. В результате весной 2012 года Минобороны пришлось повысить план призыва.
В ноябре 2007 года Владимир Путин поставил задачу обеспечить всех военнослужащих жильем к 2012 году. Из бюджета выделили 330 млрд руб., но в очереди за жильем остаются 21 тыс. человек.
Реформу сопровождали коррупционные скандалы и ЧП на военных объектах. Только в 2010-2011 годах за коррупцию осуждено 1060 военных. Среди крупнейших происшествий — пожар на 31-м арсенале ВМФ в Ульяновске в 2009 году (когда пострадали около 60 горожан) и другие взрывы на военных складах.