Родился 2 декабря 1923 года в деревне Королево Ярославской области. В 1946 году окончил истфак Ярославского пединститута им. Ушинского, в 1958-1959 годах стажировался в Колумбийском университете (США), в 1960 году окончил аспирантуру Академии общественных наук при ЦК КПСС.
В 1941-1943 годах — участник войны, командовал взводом морской пехоты на Волховском фронте. После ранения получил инвалидность. С 1943 года заведовал кафедрой военной и физподготовки в Ярославском пединституте, работал инструктором в Ярославском обкоме КПСС. С 1948 года — глава отдела пропаганды, редактор областной газеты "Северный рабочий". С 1950 года — глава отдела школ и вузов Ярославского обкома КПСС. В 1953-1956 годах — инструктор отдела школ в аппарате ЦК КПСС. С 1959 года — инструктор, глава сектора, с 1965 года — первый замглавы, с 1969 года — и. о. главы отдела пропаганды ЦК КПСС. С 1973 года — посол в Канаде. В 1983 году возглавил Институт мировой экономики и международных отношений АН СССР. В 1984 году избран депутатом ВС СССР. В 1985 году возглавил отдел пропаганды ЦК КПСС. С 1986 года — член ЦК КПСС, секретарь ЦК по вопросам идеологии, информации и культуры. В 1987 году избран членом политбюро, в 1988 году возглавил комиссию ЦК КПСС по вопросам международной политики и способствовал публикации в СССР произведений Набокова, Солженицына, Рыбакова, а также выходу на широкий экран порядка 30 ранее запрещенных фильмов. С 1989 года — народный депутат СССР от КПСС. В апреле 1991 года Александр Яковлев направил Михаилу Горбачеву письмо с предупреждением о готовящемся государственном перевороте, а 15 августа 1991 года центральная контрольная комиссия ЦК КПСС рекомендовала исключить его из партии за "действия, направленные на раскол КПСС". 16 августа 1991 года Александр Яковлев заявил о выходе из Коммунистической партии. В том же году вошел в политсовет Движения демократических реформ (ДДР) и стал членом политического консультативного совета при президенте СССР. В декабре 1991 года избран сопредседателем ДДР. С января 1992 года — вице-президент Фонда социально-экономических и политологических исследований ("Горбачев-фонда"). В конце 1992 года возглавил комиссию при президенте Российской Федерации по реабилитации жертв политических репрессий, в 1993 году — Федеральную службу по телевидению и радиовещанию, телерадиокомпанию "Останкино" и фонд "Демократия". В 1995 году организовал Партию социальной демократии. С февраля 1995 года — председатель совета директоров, с февраля 1998 года — почетный председатель совета директоров ОРТ. В июне 2000 года вошел в совет директоров ОАО "РЕСО-Гарантия".