阿克苏系维吾尔语，意为“清澈的水”。1913年置阿克苏县，1983年设市。 　　
　　汉代，这里为姑墨国地。隋唐时期，为跋禄迦，亦称亟墨，唐高宗显庆三年（658年）置姑墨州，隶属安西都护府。宋时为西辽所辖。元明为蒙古宗王察合台封地，称为阿速。清乾隆二十二年（1757年）清政府派军平定准噶尔叛乱，将地名定为阿克苏。乾隆二十三年（1758年）在此设阿克苏办事大臣。光绪三年（1877年）在阿克苏设善后总局。光绪八年以东四城（焉耆、库车、阿克苏、乌什）置阿克苏分巡兵备道，以阿克苏置温宿直隶州。光绪九年（1883年）完成建州工作并修建阿克苏新城，亦称汉称，新城为阿克苏道和温宿直隶州治所。光绪二十八年（1902年）升温宿直隶州为府，市境为温宿府直辖。本府即今阿克苏市和阿瓦提县的范围。 　　

　　民国二年（1913年）4月，温宿府本府改置阿克苏县，属阿克苏道。1949年后，隶属阿克苏专区、阿克苏地区。1956年将原县辖丙等市阿克苏市改设为阿克苏镇。1958年5月撤销温宿县，其行政区域并入阿克苏县。1962年恢复温宿县建制，将1958年合并于阿克苏县的原温宿县的行政区域从阿克苏县划出，归温宿县管辖。 　
　　1983年8月19日，经国务院批准，撤销阿克苏县，设立阿克苏市（县级）。1984年5月7日成立阿克苏市人民政府。 　　

　　1984年7月18日，撤销阿克苏镇，将原镇属的4个街道办事处升格为乡建置。1999年城区增设南城街道办事处。 　　

　　2000年，阿克苏市辖5个街道、2个镇、5个乡。根据第五次人口普查数据：全市总人口561822人，其中：兰干街道 47179人、英巴扎街道 31687人、红桥街道 21849人、新城街道 57031人、南城街道 27086人、喀拉塔勒镇 34277人、阿依库勒镇 33822人、依干其乡 29608人、拜什吐格曼乡 21006人、托普鲁克乡 13093人、库木巴什乡 18975人、托喀依乡 3337人、林园虚拟街道 8492人、兵团阿拉尔局虚拟镇 17884人、良种繁育场虚拟乡 4271人、红旗坡农场虚拟乡 17503人、兵团一团虚拟乡 23049人、兵团二团虚拟乡 11503人、兵团七团虚拟乡 13025人、兵团八团虚拟乡 11160人、兵团九团虚拟乡 20958人、兵团十团虚拟乡 12417人、兵团十一团虚拟乡 11479人、兵团十二团虚拟乡 19722人、兵团十三团虚拟乡 14341人、兵团十四团虚拟乡 13511人、兵团十五团虚拟乡 9885人、兵团十六团虚拟乡 13672人。