Taki właśnie los spotkał wielki niegdyś Babilon. W końcu IX wieku asyryjski król Szamszi-Adad V pokonał wojska babilońskie, przejmując kontrolę nad północnymi rubieżami kraju. W tej sytuacji tradycyjna elita Babilonu musiała iść na ustępstwa wobec plemion chaldejskich kontrolujących obszary na południe od miasta. Chaldejczycy – jak wynika z tekstów asyryjskich – stanowili konfederację na wpół osiadłych plemion, pod względem kultury bliższych ludom arabskim, przywykłych do bytowania na pograniczu terenów pustynnych. Innymi słowy, zarówno dla Asyryjczyków, jak i Babilończyków byli dzikusami nieuczestniczącymi w dziedzictwie kultury Międzyrzecza. Jednak, jak się później okazało, to owi dzicy, nieokrzesani nomadzi odbudowali świetność Babilonu.

Od początku VIII wieku Babilon stał się zakładnikiem Chaldejczyków. Przez blisko pół stulecia to przejmowali oni władzę w mieście, to byli zeń wyrzucani przez asyryjskie interwencje zbrojne. Kres zamętowi położył dopiero król Asyrii Tiglatpilesar III, który po udanej kampanii w 728 roku p.n.e. sam obwołał się królem Babilonu i włączył całą krainę do swego królestwa.

Babilonia zachowała wyjątkowy status w ramach państwa asyryjskiego. Przejawem owej wyjątkowości był szacunek, z jakim asyryjscy monarchowie odnosili się do tradycyjnych bogów Babilonu, oraz to, że władzę w prowincji sprawowali wicekrólowie – najczęściej asyryjscy następcy tronu. Babilończycy nie byli jednak jednomyślni w ocenie podległości wobec imperium. Część z nich zapewne dostrzegała korzyści płynące z ustania chaosu i walk wewnętrznych przeplatających się z pacyfikacyjnymi ekspedycjami Asyryjczyków. Pod ich panowaniem ludność mogła w spokoju pracować, a jej głównym zobowiązaniem było uiszczanie podatków i trybutów.

Z drugiej jednak strony Asyryjczycy budzili jawną wrogość bezwzględnym egzekwowaniem posłuszeństwa. Każdy bunt karany był krwawymi represjami. Separatyzm babiloński nasilił się zwłaszcza na przełomie VIII i VII wieku, gdy Babilon na krótko odzyskał niezależność. Po śmierci Salmanasara V w 722 roku p.n.e., wykorzystując słabość imperium asyryjskiego, podczas przejmowania rządów przez Sargona II, w Babilonie władcą ogłosił się Chaldejczyk Merodachbaladan II. Utrzymał się na tronie przez 12 lat, spełniając wszystkie powinności legalnego monarchy Babilonu. Ale Asyria rychło odzyskała moc i przygotowała kontrakcję. W 710 roku p.n.e. Sargon II poprowadził wyprawę, która obaliła Merodachbaladana II i spustoszyła chaldejskie miasta na południu. Pacyfikacje nasiliły się za rządów króla Senacheryba (704 – 681 p.n.e.), który na kolejny bunt odpowiedział trwającym 11 miesięcy oblężeniem, zniszczeniem miasta i wywiezieniem pomników babilońskich bóstw – jako zakładników – do Asyrii.Los Babilończyków poprawił się nieco za panowania króla Asarhaddona (680 – 669 p.n.e.), lecz dopiero za rządów Asurbanipala (668 – 627 p.n.e.) zwrócono miastu posąg opiekuńczego boga Marduka (668). Zarządcą Babilonu był w tym okresie królewski brat Szamasz-szum-ukin. Mimo związków krwi babiloński wicekról wystąpił przeciw władcy i poparł miejscowe stronnictwo separatystyczne, wrogie wobec Asyryjczyków. Rebelię zakończyło kolejne wyniszczające oblężenie stolicy w latach 650 – 648 p.n.e. Krwawa pacyfikacja na 20 lat ostudziła separatystyczne zapędy Babilończyków, ale następne pokolenia na nowo podniosły żagiew buntu.W 630 roku p.n.e. Asurbanipal oddał tron w Niniwie swemu synowi Assur-etil-ilaniemu (630 – 626 p.n.e.), przenosząc się do Babilonu. Po śmierci króla w 627 roku p.n.e. rozgorzała walka o władzę.Zwycięsko wyszedł z niej Nabopolasar, który w 626 roku ogłosił się królem Babilonu. Asyria przez dziesięć lat starała się przywrócić zwierzchnictwo nad Babilonem. Tym razem nauczeni doświadczeniem Babilończycy, którym przewodzili Chaldejczycy, stawili dobrze zorganizowany opór. Aby rzucić asyryjskiego kolosa na kolana, potrzebowali jednak silnego sojusznika.Lata 626 – 616 p.n.e. to okres ustawicznych walk między Asyryjczykami i Babilończykami. Do przesilenia doszło, gdy w konflikt wmieszali się mieszkający na wschodzie Medowie. Jeszcze w 615 roku p.n.e. w bitwie pod Aszur wojska asyryjskie zdołały odeprzeć przeciwników. Ale w kolejnych latach sojusz medyjsko-babiloński odnosił spektakularne zwycięstwa. Babilończycy wzięli na swych ciemiężycielach srogi rewanż: w 614 roku p.n.e. upadło miasto Aszur, w 612 roku – Niniwa, a dwa lata później – Harran. Posąg boga Aszura został wywieziony do Babilonu, a asyryjskie miasta nie były odbudowywane aż do połowy VI wieku.