Первым исполнительным секретарем СНГ 14 мая 1993 года был назначен бывший депутат верховного совета Белоруссии, координатор рабочей группы совета глав государств и правительств СНГ Иван Коротченя. С политическими заявлениями он не выступал, а секретариат при нем занимался исключительно административной работой. Тем не менее, как вспоминал первый президент России Борис Ельцин в книге "Президентский марафон", "от саммита к саммиту накапливалось неудовольствие работой" господина Коротчени.
29 апреля 1998 года секретарем стал экс-заместитель секретаря Совета безопасности России, предприниматель Борис Березовский. Он предложил реформировать СНГ по образу Евросоюза, создать единое экономическое и валютное пространство и разработал реформу секретариата, предполагавшую увольнение 70% чиновников. 4 марта 1999 года Борис Ельцин уволил его "за регулярные действия, выходящие за рамки полномочий исполнительного секретаря СНГ". И. о. секретаря был назначен Иван Коротченя.
2 апреля 1999 года пост занял представитель президента в Совете федерации Юрий Яров. Он также высказывался за создание зоны свободной торговли, введение единой валюты и организацию сил быстрого реагирования.
14 июня 2004 года его сменил бывший глава МВД РФ, экс-секретарь Совета безопасности Владимир Рушайло. Широкое освещение получила его работа в качестве главы миссий наблюдателей от СНГ на выборах в странах Содружества. Все проверенные им кампании были признаны легитимными. Только третий тур выборов президента Украины, в котором победил Виктор Ющенко, господин Рушайло назвал недемократическим.
В начале июня 2007 года СМИ сообщили, что следующим исполнительным секретарем станет бывший глава Центризбиркома РФ Александр Вешняков. 10 июня на неформальном саммите СНГ в Санкт-Петербурге против его кандидатуры выступил президент Белоруссии Александр Лукашенко.