Во время президентства Бориса Ельцина было предпринято несколько попыток реформирования госслужбы. В декабре 1991 года создано Главное управление по подготовке кадров для госслужбы при правительстве РФ, которое успело разработать концепцию реформирования госслужбы и ряд законопроектов, однако спустя два с половиной года было распущено. В июле 1995 года принят закон "Об основах государственной службы РФ". Он носил рамочный характер и требовал принятия множества уточняющих актов. В 1997 году к теме реформы вернулась экспертная группа под руководством помощника президента Михаила Краснова. За два года она подготовила 12 концепций реформы, но из-за частых смен правительства к их реализации так и не приступила.
В 1999-2000 годах над планами реформы госслужбы работал Центр стратегических разработок под руководством Германа Грефа. Центр действовал в рамках предвыборного штаба будущего президента Владимира Путина, который сделал реформу госслужбы одним из пунктов своей предвыборной программы. В августе 2001 года господин Путин одобрил концепцию реформы и для ее реализации сформировал комиссию под руководством премьер-министра Михаила Касьянова и рабочую группу под руководством замглавы администрации президента Дмитрия Медведева. В ноябре 2002 года была утверждена разработанная ими программа реформирования госслужбы на 2003-2005 годы.
В апреле 2003 года принят разработанный под руководством Дмитрия Медведева закон "О системе государственной службы", заменивший закон 1995 года. В отличие от старого, он ввел разделение госслужбы на гражданскую, военную и правоохранительную, ввел классные чины вместо квалификационных разрядов, а также замещение должностей по конкурсу. В июле 2004 года в дополнение к нему принят закон "О государственной гражданской службе РФ". Для его реализации 1 февраля 2005 года Владимир Путин своими указами утвердил процедуру проведения конкурсов для замещения вакантных должностей и квалификационных экзаменов для присвоения классных чинов.