История города начинается в конце XIX века, когда рядом с небольшим казахским поселением в урочище Кзыл-Шырпы (хворост краснотала) образовался хутор русских казаков – Глинка, где поселились крестьянские переселенцы из Центральной России. Это поселение и было началом нынешнего города. История города неразрывно связана с открытием каменного угля в районе Экибастуза. В 1897 году от Экибастуза началось строительство 109-верстного железнодорожного пути. На месте соприкосновения дороги с Иртышем в 1899 году была построена Воскресенская пристань. Стали развиваться два поселка: административный и рабочий. В 1904 году Воскресенское горнопромышленное общество обанкротилось. Жизнь пристани и железной дороги пришла в упадок. Однако население поселка «Глинка» продолжало расти.

В 1911 году население возросло до тысячи человек.

В 1912 году поселок был переименован в город Ермак. Назывался городом он недолго, затем официально он стал именоваться поселком Ермак Аксуйской волости. В 1914 году все предприятия Воскресенского горнопромышленного акционерного общества были приобретены английским промышленником Лесли Урквартом. Жизнь в поселке Ермак постепенно стала налаживаться. В июне 1914 года возродилось движение на Воскресенской железной дороге. Однако, разгоревшаяся мировая война, а вслед за ней гражданская и годы разрухи нарушены планы, добыча угля упала, а дальнейшее развитее поселка было приостановлено. До февраля 1921 года Павлодарский уезд входил в состав Омской губернии. 27 февраля 1921 года Павлодарский уезд, состоящий из 31 волости, был передан в Семипалатинскую губернию. Одна из волостей именовалась Ермаковская, с центром в городе Ермак. Всего в Павлодарском уезде было 62 волости. В 1921 – 1923 годах поселок являлся центром Ермаковской волости, в 1923 – 1925 годах – центром советской волости, в 1928 -1930 годах – в составе Коряковского района, в 1930-1938 годах – в составе Павлодарского района Восточно-Казахстанской области. Постановлением Президиума КазЦИК от 14 февраля 1938 года была образована павлодарская область. За счет разукрупнения Павлодарского и Бескарагайского районов 16 октября 1938 года был образован Кагановический район с центром в поселке Ермак. В соответствии с Указом Президиума Верховного Совета Казахской ССР от 16 августа 1957 года Кагановический район был переименован в Ермаковский. Указом Президиума Верховного Совета Казахской ССР от 23 октября 1961 года поселок Ермак был преобразован в город Ермак. Население составляло – 11099 человек, число медицинских учреждений – 2, количество школ – 1, в них учащихся – 550. Постановлением Президиума Верховного Совета Республики Казахстан 2 февраля 1992 года, № 1229 – ХН Ермаковский район был переименован в Аксуский. Постановлением Президиума Верховного Совета Республики Казахстан от 4 мая 1993 года Ермака Павлодарской области переименован в город Аксу. Решением Акима Павлодарской области от 7 июня 1997 года, № 117 Аксуский район был упразднен. Территория, сельского округа и поселки Аксуского района были переданы в ведение и административное подчинение акима города Аксу. Город Аксу расположен в 40 км к югу от областного центра города Павлодара на левом берегу реки Иртыш. Территория, и его сельские зоны граничат с Актогайским районом – на севере, с Баянаульском, Майским и Лебяжинским районами на юге, с Павлодарским районам – на западе, с сельской зоной г.Экибастуза – на востоке. Она занимает южную часть Прииртышской равнины. В недрах разведаны запасы поваренной соли, естественных строительных материалов. Климат резко континентальный. Средняя температура в январе – 15-17 С, в июле – 20-21 С. Годовое количество атмосферных осадков – 250 - 300 мм. По территории города протекает река Иртыш, берет свое начало канал «Иртыш - Караганда» им. К. Сатпаева который является важным стратегическим объектом и основным поставщиком питьевой воды в центральной и северной частях Республики Казахстан. Растут ковыль, типчак, полынь, осока, камыш, осина, ива. Из животных обитают волк, лисица, корсак, заяц, тушканчик и другие. В 1960 году началось строительство Ермаковской ГРЭС. 17 декабря 1968 года на ГРЭСе состоялся ввод в эксплуатацию первого энергоблока мощностью 300 мегаватт и был дан первый промышленный ток. В 2008 году Аксуская тепловая электрическая станция (ТЭС) отметила свой 40-летний юбилей. Она была и остается одной из ведущих электростанций республики. В декабре 1996 года предприятие было преобразовано в открытое акционерное общество «Евроазиатская энергетическая корпорация». К ГРЭС были присоединены Екибастузский угольный разрез «Восточный» и павлодарское предприятие «Севказэнергоремонт». И в АО «ЕЭК» образовался тандем «уголь - электроэнергия» со своим ремонтным подразделением, что во многом обеспечивало бесперебойную поточную систему добычи угля, производства энергии и надежности работы механизмов. Эта характеристика АО привлекла к нему солидных партнеров и потребителей, которые уже 10 лет работают с корпорацией. Корпорацию возглавлял президент Абдуазим Рустамбаев. С 1962 года началось строительство промышленных объектов Ермаковского завода ферросплавов. В январе 1968 года на заводе была выплавлена первая тонна ферросплавов, а в июле 1970 года завершился запуск восьми плавильных печей цеха №2. Ермаковский завод ферросплавов – крупнейший завод по производству кремнистых и хромистых сплавов. В 1995 году предприятие вошло в состав Транснациональной компании «Казхром». Более 95 процентов товарной продукции АЗФ отгружается на экспорт – в страны ближнего и дальнего зарубежья. На предприятии трудятся 6 с половиной тысяч человек. На мировом рынке ферросплавов АЗФ в тройке самых конкурентоспособных. У него 1 место на рынке США, 2-е – в Европе, 3-е место – на японском рынке. Наряду с вышеперечисленными предприятиями уже в 1985 году на территории города и бывшего Ермаковского района действовали завод дорожных машин, выпускавший бульдозеры, Калкаманский солепромысел, хлебозавод, лесхоз, строительные транспортные предприятия, типография и другие социально-бытовые и культурные предприятия и учреждения. Сегодня Аксу это не только мировой гигант металлургии – Аксуский ферросплавный завод и крупнейшее энергетическое предприятие страны – Аксуская теплоэлектростанция - АО «Евроазиатская Энергетическая Корпорация». Помогают формировать и динамично наращивать в объемах и рейтингах крепкий аксуский позитив и предприятия поменьше, но тоже важные и нужные для нормального функционирования большого городского организма. Среди которых: ТОО «Горкомхоз - Аксу», Аксуское предприятие электрических сетей, городской узел телекоммуникаций, ТОО «Тепловик», АО «Аксуское ПАТП» и др. На бывшей территории Ермаковского, с 1992 года Аксуского района (ныне - сельская зона города Аксу) развивается сельское хозяйство, основными направлениями которого являются растениеводство, зерноводство и животноводство. Сегодня за счет собственного сельскохозяйственного производства и, в частности, благодаря стабильной работе ТОО «Павлодарская птицефабрика», свинокомплекса «Достык», ТОО «Агрофирма «Биосем», ряда крестьянских и фермерских хозяйств Аксу практически обеспечил продовольственную безопасность региона по основным видам сельхозпродукции. 19 июня 2001 года – знаменательная дата для жителей Аксу. Была сдана в эксплуатацию железнодорожная ветка «Аксу - Дегелен», на открытии которой принял участие Президент РК Н.А. Назарбаев. Строительство велось с конца 90-х годов. Это была крупнейшая стройка, способствовавшая подъему экономики не только региона, но и республики в целом. 18 октября 2003 года, в День духовного согласия, в Аксу состоялась торжественная церемония открытия Христо–Воскресенской церкви. Церковь была построена на спонсорские средства и добровольные пожертвования граждан. В 2009 году отметили 10-летний юбилей со дня открытия новой мечети в городе Аксу. Летом 2005 года Аксу занял 3-е место в республиканском конкурсе среди малых городов страны на звание «Экологически чистый город». В сентябре 2006 года Аксу праздновал свой юбилей – 45-летие. Издана 1-я большая книга о городе, где рассказано об его историческом прошлом, начиная с 19 в., годах становления и о сегодняшнем дне. За последние годы произошли разные значительные события в жизни города. Введен в строй комплекс городской набережной, ставшей любимым местом отдыха горожан и проведения массовых праздников и торжеств. На пересечении улиц Мира и Ауэзова появилось уникальное архитектурное сооружение – стела «Шанырак», возведенная градообразующими предприятиями – Аксуским заводом ферросплавов и Евроазиатской Энергетической Корпорацией. Стела символизирует нашу независимость и стремление к добру, миру, согласию и процветанию. В июле 2008, к 10-летнему юбилею столицы Казахстана, по заключению городской ономастической комиссии, решением Аксуского гормаслихата и постановлением акимата улица Мира города Аксу была переименована в улицу Астана. В городе функционирует более 1500 субъектов малого и среднего предпринимательства, 16 религиозных объединений, 24 средние школы, 2 колледжа: колледи им.Жаяу Мусы и колледж черной металлургии, Дом детского творчества, школа искусств и т.д.

2004 год ко Дню Конституции аксусцы получили в подарок великолепнейший комплекс городской набережной. С каждым днем все большую популярность у горожан и сельхозтоваропроизводителей набирает и открывшийся в городе коммунальный рынок «Ауыл». На перекрестке улиц Мира и Ауэзова сооружена стела, символизирующая независимость и процветание нашего государства. В рамках реализации областной программы «Ауыл кітапханасы » 2003-2004 гг. в Аксуском регионе были открыты 10 сельских библиотек.

2005 год по всем показателям социально-экономического развития город Аксу значительно продвинулся вперед и явился активным участником политических и экономических преобразований в стране. Знаком этого явилось то, что в 2005 году наш город посетили Президент страны и Премьер-министр Казахстана. Наш город принял участие в конкурсе среди малых городов Казахстана на самый экологически чистый город, в котором принимали участие 62 города. Аксу занял почетное третье место. В рамках реализации областной программы «Ауыл кітапханасы» в 2005 году в Аксуском регионе были открыты 6 сельских библиотек.

2006 год - празднование 15-летия возвращения оралманов на историческую Родину, 15-летия Независимости нашей страны, 45-летия города Аксу. Велась работа по открытию дворовых клубов для организации досуга молодого поколения. Всего в городе работают 5 дворовых клубов, 2 из них спортивные. Впервые за последние 15 лет в нашем городе введены в эксплуатацию многоэтажные жилые дома.

2007 год. По итогам 2007 года город Аксу занял 1-е место в области по развитию сельского хозяйства. В городе Аксу открылся Центр обслуживания населения (ЦОН). Главная задача Центра - оказание государственных услуг по приему и выдаче документов по принципу одного окна. В городском акимате создан web-сайт в рамках программы «Электронного правительства».  

2008 год.  В условиях мирового финансового кризиса в городе проводилась целенаправленная работа по преодолению его воздействия. В рамках общенационального проекта «100 школ, 100 больниц» продолжалось строительство новой школы и начато строительство поликлиники в городе. На градообразующих предприятиях города работа была направлена на дальнейшую модернизацию производства, техническое переоснащение и обеспечение экологической безопасности производства.

2009 год. В рамках программы «100 школ, 100 больниц» была введена в строй новая поликлиника. После реконструкции и капитального ремонта вступил в строй действующий детский сад № 18. В День столицы, на главной улице города – улице Астана был установлен памятник Канышу Сатпаеву. В честь 20-летия вывода войск из Афганистана в городском парке установлен памятник воинам-интернационалистам – БМП.

2010 год. На Аксуском заводе ферросплавов введен в эксплуатацию агломерационный цех мощностью 350 тыс. тонн агломерата в год. Введен также в эксплуатацию завод по производству пластиковых полиэтиленовых труб ТОО «ДАНиЕР» с мощностью 300 тыс. метров пластиковых труб в год. В городе открыт центр социальной адаптации для лиц без определенного места жительства. В рамках реализации программы «Балапан» начато строительство нового детского сада на 280 мест. В рамках программы «Дорожная карта» проведен ремонт Централизованной библиотеки.

2011 год для города Аксу был насыщенным и щедрым на хорошие события: Год празднования 20-летия Независимости РК, 50-летия города Аксу. Аксу посетил Президент РК Нурсултан Назарбаев, который побывал на Аксуской ТЭС АО «Евроазиатская энергетическая корпорация», где осмотрел восстановленный энергоблок № 2. Исполнилось 10 лет с момента начала регулярного движения по железнодорожной магистрали «Ақсу-Дегелең». Распахнул свои двери новый детский сад на 400 мест, построенный по государственной программе «Балапан». Состоялось открытие Аллеи Героев и обновленного парка культуры и отдыха. В парке введен в эксплуатацию современный хоккейный корт. Город отметил свой 50-летний юбилей.

В августе Аксу посетил Президент Республики Казахстан Нурсултан Назарбаев. Глава государства побывал на Аксуской ТЭС АО «Евроазиатская энергетическая корпорация», где осмотрел восстановленный энергоблок № 2, встретился с коллективом предприятия. Уникальный проект восстановления энергоблока № 2, включенный в государственную программу форсированного индустриально-инновационного развития, с мощностью 325 мегаватт, позволил вывести общую мощность электростанции на уровень 2425 мегаватт. АО «Евроазиатская энергетическая корпорация» начало строительство большого спортивного комплекса для горожан. Реконструировало и ввело в эксплуатацию здание бывшего общежития колледжа имени Жаяу Муссы под 70-квартирный жилой дом для работников ЕЭК.

На Аксуском заводе  ферросплавов произведен капитальный модернизационный ремонт 3 ферросплавных электропечей. Производство ферросплавов на 1 декабря составило 1 млрд. 153 млн. 159 тонн. Выработано 12586, 4 млн. квт/ч электроэнергии. Аксуским заводом Ферросплавов  начато строительство третьего за последние два года жилого дома для заводчан.

В аграрном секторе Аксу работают более 160 крестьянских хозяйств, 31 заготовительный пункт по сбору молока и мяса, 21 объект переработки сельскохозяйственной продукции. В селе Евгеньевка крестьянским хозяйством «Тимур» построено овощехранилище емкостью 13000 тонн, крестьянским хозяйством «Алина» - овощехранилище на 3000 тонн. Крестьянским хозяйством «Сергей» в этом же селе введена система капельного орошения на площади 9 гектаров.

Исполнилось 10 лет с момента начала регулярного движения по железнодорожной магистрали «Ақсу-Дегелең», это первая железная дорога, построенная в суверенном Казахстане, в открытии которой в июне 2001 года принимал участие Глава государства Нурсултан Назарбаев.

Распахнул свои двери новый детский сад на 400 мест, построенный по государственной программе «Балапан».

Состоялось открытие Аллеи Героев и обновленного парка культуры и отдыха.

Для города Аксу 2012 год был богат на знаменательные события. Город Аксу включили в программу по развитию моногородов. В рамках программы были отремонтированы дворы улиц,  обновлены и отремонтированы коммуникационные тепловые сети, открыта площадь у городского Дворца культуры имени Сабита Донентаева. В городе был построен Дворец спорта имени Иманжусупа Кутпанулы.

В день празднования 20-летия государственных символов в Аксу состоялось открытие площади госсимволов.

В преддверии празднования Дня независимости с участием акима Павлодарской области Ерлана Арына в городе в торжественной обстановке состоялось открытие двух ясли-садов № 10 и № 20. 

Впервые за многие годы на областной XV спартакиаде команда спортсменов города Аксу заняла 2-е место.

2015 год – На «День города» проведен фестиваль «Аксу картофель fest».  Брендом праздника стали ростовые куклы –картофелины. В этот день  было приготовлено 19 тысяч 254 порции картофеля фри  (4 тонны 250 килограммов корнеплодов) и установлен мировой рекорд. Аксу вошел в Книгу рекордов Гинесса.

2016 год - В феврале 2016 года город встречал гостей  поезда «Мәңгілік Ел».

18 января 2018 года все аксусцы отметили 50 лет со дня пуска Аксуского завода ферросплавов.