Başlangıçta Akad İmparatorluğu'nda yer alan önemsiz ve güçsüz bir şehir iken, şehrin Amori hükümdarı Hammurabi tarafından kısa süre içinde büyüyen ve gelişen şehir, kısa ömürlü de olsa bölgedeki en güçlü imparatorluklardan biri haline gelmiştir. Bu dönemden sonra tüm Güney Mezopotamya'ya Babil denilmeye başlanmış, devletin kutsal şehri Nippur olmuştur. Hammurabi'nin oğlu altında güçten düşen devlet uzun süre boyunca Asur, Kassit ve Elam egemenliği altında kalmıştır. Şehir Asurlular tarafından yıkılıp yeniden inşa edilmiştir. MÖ 609-539 yılları arasında hüküm sürmüş Yeni Babil İmparatorluğu, bağımsızlığını Asurlulardan Keldani Nebupolassar önderliğinde kazanmıştır. Bu devletin de çökmesi ile Babil şehri Ahameniş, Seleukos, Part, Roma ve Sasani egemenliği altında kalmıştır.