Родился 30 июня 1948 года во Владимирской области. В 1972 году, окончив Ленинградский механический институт, поступил на работу в Институт прикладной химии. Служил в армии. С 1977 года трудился в Комитете СССР по внешнеэкономическим связям. В 1982–1985 годах возглавлял иностранный отдел Физико-технического института имени Иоффе. С 1985 года — на дипломатической службе, был секретарем постпредства при ООН. По возвращении в Россию в 1991 году занялся бизнесом, возглавлял Международный центр делового сотрудничества в Санкт-Петербурге. С 1997 года — начальник Северо-Западной окружной инспекции главного контрольного управления президента. С октября 2000 года — заместитель министра транспорта, с февраля 2002 года — первый заместитель министра путей сообщения. 24 октября 2003 года назначен первым вице-президентом, 14 июня 2005 года — президентом ОАО РЖД. 20 августа 2015 года покинул пост главы компании. После отставки получил предложение стать сенатором от Калининградской области, но в сентябре отказался от этой должности. Сконцентрировался на руководстве неправительственными организациями — мировым общественным форумом «Диалог цивилизаций», ассоциацией «Франко-российский диалог», Фондом Андрея Первозванного, Центром национальной славы. Приступил к созданию международного экспертно-аналитического центра, который займется выработкой предложений для смягчения напряженности в мире.
Имеет ряд государственных наград, в том числе ордена Почета, Дружбы, «За заслуги перед Отечеством» IV степени, медаль «За боевые заслуги». Владимир Якунин имеет и зарубежные награды. Он кавалер Большого креста с золотой звездой — почетного знака «За заслуги перед Австрийской республикой», великий офицер ордена «За заслуги перед Итальянской республикой», кавалер Большого креста ордена гражданских заслуг (Испания) и кавалер ордена Почетного легиона (Франция)