4 maja Mackensen rozkazał prawemu skrzydłu 4. c.k. Armii obejść Tarnów od południa, kierując się na Pilzno. Tam też skierowano rezerwową 11. Węgierską Dywizję Kawalerii.
Natomiast Rosjanie znowu podjęli próbę kontruderzenia. Wprowadzili do walki elitarny III Korpus Kaukaski, stanowiący rezerwę całego Frontu Południowo-Zachodniego. Kontratakował on wraz z resztkami X Korpusu na linii Olpiny – Biecz – Wola Cieklińska (25 km frontu). Jednak uderzenia te były nieskoordynowane i pozbawione przygotowania artyleryjskiego. Rosjanie w pierwszych dniach bitwy wykorzystali bowiem większość amunicji artyleryjskiej – baterie IX i X Korpusu miały ledwie dwa, trzy pociski na działo. Tymczasem Niemcom i Austriakom amunicji nie brakowało. Narażone na morderczy ostrzał armatni oddziały carskie wykrwawiły się, odnosząc jedynie lokalne sukcesy. Udało im się nieco opóźnić postępy sojuszników, którzy 4 maja nie zdołali zdobyć przepraw na Wisłoce. Ale już około południa 5 maja Niemcy sforsowali rzekę w okolicach Żmigrodu.
Rosjanie nie dysponowali już żadnymi rezerwami na tym odcinku frontu, a jednostki znajdujące się w kontakcie bojowym z nieprzyjacielem poniosły dotkliwe straty. Niektóre rosyjskie dywizje stopniały raptem do tysiąca bagnetów i kilkunastu oficerów. Posiłki skierowane do Galicji z Frontu Północno-Zachodniego mogły dotrzeć w rejon walk dopiero za kilka dni.
Przewaga wojsk sojuszniczych rosła z godziny na godzinę. Jak wspominał niemiecki generał Erich von Falkenhayn: „Wojsko wyzwolone z więzów walki pozycyjnej pędziło przed się z ochotą ociężałego nieprzyjaciela.” 6 maja zajęto Tarnów, Jasło, Duklę, blokując Rosjanom drogę z Przełęczy Dukielskiej. Sforsowano też Wisłokę na szerokim odcinku od Kołaczyc (na północ od Jasła) aż po Karpaty. W obawie przed odcięciem Rosjanie pospiesznie opuszczali stanowiska nad Dunajcem. Kilka dni później, po nieudanej próbie ustabilizowania frontu na Wisłoce, gen. Dmitriewowi nie pozostało nic innego, jak zarządzić odwrót na linię Sanu w celu reorganizacji 3. Armii i uzupełnienia stanów dywizji. W całej operacji gorlickiej Rosjanie stracili 100 – 150 tys. zabitych oraz kilkakrotnie więcej rannych i wziętych do niewoli.
Przełamanie pod Gorlicami postawiło w krytycznej sytuacji dwa lewoskrzydłowe korpusy 3. Armii. Stacjonowały one głęboko w Karpatach, a część oddziałów znajdowała się już po południowej stronie pasma górskiego, w rejonie Bardejowa i Svidnika. Z powodu oddalenia i braku dogodnych dróg Dmitriew nie mógł użyć ich do kontrnatarcia. Co więcej, po przerwaniu frontu w oczy zajrzało im widmo odcięcia i kompletnej zagłady. Były tylko dwie drogi odwrotu: na Żmigród przez przełęcz Beskid oraz do Dukli przez Przełęcz Dukielską. Najtrudniej było wycofać się XXIV Korpusowi, który utrzymywał pozycje do 4 maja. Miał się wycofywać na Żmigród, bo drogę na Duklę przydzielono sąsiedniemu XII Korpusowi. Gdy Rosjanie dotarli w pobliże Żmigrodu, okazało się, że w miasteczku są już Niemcy. Prawoskrzydłowej 49. Dywizji Piechoty udało się przebić do Krosna, podczas gdy 48. Dywizja Piechoty dowodzona przez późniejszego bohatera wojny domowej gen. Ławra Korniłowa ruszyła na wschód bocznymi górskimi drogami i bezdrożami. Jednak w nocy z 6 na 7 maja została zablokowana przez przeważające siły niemiecko-austro-węgierskie w rejonie Przełęczy Dukielskiej. Po nieudanej próbie przebicia Rosjanie złożyli broń. Ranny gen. Korniłow przez kilka dni ukrywał się ze swym sztabem w okolicznych lasach, ale osaczony, również dostał się do niewoli. Zbiegł z niej w 1916 r. i poprzez neutralną jeszcze Rumunię wrócił do Rosji.
