Жарков Алексей Дмитриевич родился 27 марта 1948 года в Москве. В 1970 году окончил Школу-студию МХАТ (курс Александра Карева). До этого сыграл несколько ролей в кино: роль Пети в фильме «Здравствуйте, дети!» (1962), эпизодическую роль в комедии Ролана Быкова «Пропало лето» (1963), роль Коли в военной киноповести «Такой большой мальчик» (1966).
В 1971–1988 годах был актером Московского театра имени Ермоловой. В 1988 году перешел в МХАТ, а в 1989 году стал артистом МХАТ имени Чехова. В 2000 году вернулся в Театр имени Ермоловой. Первый большой успех Алексею Жаркову принесли работы в картинах Семена Арановича «Торпедоносцы» (1983) и Алексея Германа «Мой друг Иван Лапшин» (1984), а также в драме Вадима Абдрашитова «Парад планет» (1984).
Всего актер сыграл более 130 ролей в кино, среди которых Тарас Постников в историческом фильме «Михайло Ломоносов» (1984–1986), полицейский Уильям Генри Блор в детективе «Десять негритят» (1987), банкир Данглар в приключенческом фильме «Узник замка Иф» (1988), следователь Сергей Рябинин в фильме «Криминальный талант» (1988), уголовник Чибис в боевике «Не будите спящую собаку» (1991) и др.
В 2012 году актер перенес инсульт, после которого его временно парализовало. В начале марта 2016 года у него случился новый приступ.
Заслуженный артист РСФСР (1984), народный артист России (1994). Награжден орденом Дружбы (1998).