Yaşayış məntəqəsi kimi XV əsrdən məlumdur. Şəhərin 4–5 km.-ində "Xaraba Şəhər" adlanan orta əsr Şəhəri Ağsu və ya Yeni Şamaxının qalıqları var. Adını ərazidəki eyni-adlı çaydan almışdır. Hazırda Ağsu rayonunun mərkəzi olan Ağsu şəhərinin adı bəzi tarixi mənbələrdə Yeni Şamaxı kimi də göstərilir.
Abbasqulu ağa Bakıxanov “Gülüstani-İrəm” əsərində qeyd edir ki, Nadir Şah tərəfindən 1735-ci ilin may ayında Şamaxı şəhərindən 37 km aralıda etibarilə çox əlverişli olan Ağsu adlı yerdə yeni şəhərin əsası qoyuldu. Bu həmin dövrdə Şamaxı əhalisinin Ağsuya köçürülməsi ilə bağlıdır. XVIIl əsrin yadigarı olan qədim şəhərinin qalıqları (hazırda "Xaraba şəhər" adlanır) müasir Ağsu şəhərinin cənubunda yerləşir.
Orta əsr Ağsu şəhəri XVIII əsrdə əhalisinin sayına və ərazisinə görə Azərbaycanın ən böyük şəhərindən olmuşdur. 1735-ci ilin mayında Nadir şah tərəfindən Ağsu kəndi yaxınlığında tikdirilən qala uzun müddət bu bölgədə ən əhəmiyyətli iqamətgah olub.
Şəhər qısa müddətdə tikilməsinə baxmayaraq, dövrünün ən mükəmməl şəhər planlaşdırması tətbiq edilib. Qazıntılar zamanı daş döşənmiş küçə və yollar, su və kanalizasiya xətləri, sənətkarlıq emalatxanaları və s. öz dövrü üçün müasir mütərəqqi şəhər mədəniyyətindən xəbər verir.
Şəhərdən bir qədər cənub-qərbdə "Ağ Gunbəz" məqbərəsi, Ağsunun şərqində – XVIII əsrə aid tikililərin xarabalıqları, Gürcüvan kəndində isə Qız Qalası turistlər üçün maraqlı obyektlər sayılır.
2019-cu il oktyabr ayının 22-də Azərbaycan Respublikasının Prezidenti İlham Əliyevin sərəncamı ilə “Orta əsr Ağsu şəhəri” Arxeoloji Turizm Kompleksinin bazası əsasında “Orta əsr Ağsu şəhəri” Dövlət Tarix-Mədəniyyət Qoruğu yaradılıb.