Будущий актер появился на свет в конце марта 1958 года в Москве в обычной рабочей семье. Отец был плотником, мама работала бухгалтером. Творческий дар Алексея Жаркова начал проявляться еще в ранней юности, когда мальчишка самостоятельно выучился играть на баяне. Позже талантливый юноша стал заниматься в секции художественного слова, занимался в доме пионеров.
Юный Алеша делал большие успехи, в 1960-м году его включили в детскую делегацию для выступления в Колонном зале Дома союзов. Жарков с воодушевлением прочитал отрывок из «Василия Теркина». Успех был оглушительным, бойкого подростка заметил режиссер Марк Донской, пригласив в картину «Здравствуйте, дети!». Год спустя Алексей Жарков поработал с Роланом Быковым в фильме «Пропало лето».
В 1970-м году молодой артист выпустился из Школы-студию МХАТ, через год был принят в труппу Театра имени Ермоловой. Правда, карьера в кинематографе после фильма Быкова замерла почти на четырнадцать лет. Когда ребенок вырос, оказалось, что у Жаркова не вполне подходящий для тех лет типаж. Был спрос на героических красавцев, помимо этого, на большие экраны пробивались лишь единицы. Алексей был не из их числа.
Активно сниматься он начал только после тридцати, когда игнорировать талант артиста было уж совсем нельзя. В каждой театральной работе Жарков был крайне убедителен, зрители охотно раскупали билеты на постановки с его участием. Сомнений в даровании этого артиста ни у кого не возникало. Не обладая героической внешностью, Алексей Дмитриевич был ограничен в образах сильных и харизматичных героев. Он буквально проживал каждую роль и был поистине народным артистом.
Жаркова отличал фанатичный профессионализм. Он первым приходил на репетицию и покидал театр одним из последних, самозабвенно репетируя каждую сцену со своим участием, продумывая образ до деталей, а реплики — до мелочей. Карьера в кинематографе постепенно пошла в гору. После картины «Познавая белый свет» предложения начали поступать Алексею Дмитриевичу одно за другим. Он стал звездой всесоюзного масштаба. Последовали работы в проектах «Иван Бабушкин», «Десять негритят», «Торпедоносцы», «Криминальный талант». Фильмография актера пополнялась каждый год.
Даже накануне собственной свадьбы Жарков не отменил репетицию. Он просто не мог сорвать спектакль, а потому в торжественный день после росписи вернулся в театр и отыграл спектакль. Только после этого отправился на банкет и позволил себе отпраздновать счастливое событие. Жарков был однолюбом, он всю жизнь сохранял верность одной женщине. С бортпроводницей Любовью артист познакомился в начале 1970-х, светлое и крепкое чувство возникло практически сразу. В этом браке появились на свет двое детей: сын Максим и дочь Анастасия.
Любови был непросто обеспечивать надежный тыл своему супругу. Жарков был очень популярен среди женщин, у него были тысячи поклонниц. Одно дело, когда актеру писали романтические письма со всех концов Союза, и совсем другое — навязчивые дамы, поджидавшие его у подъезда или выхода из театра. Алексей Дмитриевич никогда не давал повода усомниться в его верности, но досужие пересуды ломали не один брак. Любовь Жаркова выдержала все испытания, она оставалась рядом с супругом даже в самые тяжелые моменты.
Алексей Дмитриевич работал на износ, не жалея себя. Порой не мог расслабиться, адреналин не позволял спать несколько ночей подряд. Здоровье ухудшалось, к тому же артист с детства курил. Понимал, насколько это пагубная привычка, но ничего не мог с собой поделать. В зрелом возрасте еще и к алкоголю пристрастился, дабы хоть немного расслабляться в перерывах между работой. Карьера всегда была в приоритете относительно самочувствия. Неудивительно, что нервная система Жаркова истощалась, а болезни стали появляться одна за другой.
В 2012 году актера разбил тяжелый инсульт. Он сумел выжить, но этот подвиг дался ему непросто. Помогли врачи и супруга, буквально вытащившие Жаркова с того света. Но полностью восстановиться ему так и не удалось. Алексея Дмитриевича перестали приглашать в театр и на съемочную площадку, он очень тяжело переживал творческую невостребованность. Не привык сидеть без дела, не мыслил себя вне профессии.
Пятого июня 2016 года сердце Жаркова остановилось, причиной стал очередной инсульт. Несмотря на наличие звания Народного артиста, столичная мэрия отказалась хоронить актера на Новодевичьем или Троекуровском кладбище. Позорная для властей ситуация, однако разрешить конфликт так и не удалось. Алексей Дмитриевич был похоронен на Покровском кладбище недалеко от своего загородного дома.