W 1882 r. pierwsze takie stowarzyszenie powstało w Białymstoku, a wkrótce zyskało dużą popularność w Warszawie. Jego zwolennikami byli przede wszystkim zasymilowani Żydzi, którym rodzący się antysemityzm Polaków uniemożliwiał konsumpcję owoców asymilacji.

Działacz ruchu syjonistycznego, polityk i mąż stanu Apolinary Hartglas (1883 – 1953) tak oto wspominał swoje pierwsze zetknięcie z syjonizmem: „W tejże siódmej klasie dowiedziałem się o syjonizmie. Było to w 1898 r. [...] Przychodził też do nas dorosły już wówczas młody człowiek [...] Władysław Tuchhendler... Rodzina Tuchhendlerów w Warszawie była zupełnie zasymilowana. Tak oto Tuchhendler zaczął nam opowiadać z zachwytem o świeżo wydanej broszurze niejakiego dr Herzla »Państwo żydowskie«. Unosił się nad nią, wykazywał doniosłość tego ideału. Ja z Judtem wykpiliśmy go. Nonsens – co my mamy z tym wspólnego? Brednie! Gdzieś na pustyni należącej do Turcji, o tysiące kilometrów od Polski tworzyć państwo? Kto tam pójdzie? Skąd wziąć pieniądze na to? I czy Turcja pozwoli na to? Dlatego że przed 2 tys. lat było tam lenne państewko żydowskie, już wtedy naprawdę rządzone przez Rzymian? Nie, my jesteśmy Polakami i Polakami pozostaniemy, a Żydami jesteśmy tylko formalnie z wyznania”. Pomimo początkowego sceptycyzmu, syjonizm zdobywał sobie coraz więcej zwolenników, szczególnie wśród części młodego pokolenia, zasymilowanej inteligencji zaboru rosyjskiego i austriackiego. Pierwsze grupy syjonistyczne na ziemiach polskich ograniczały się do zbierania pieniędzy na wyjazd do Palestyny. Historycy szacują, że do końca 90. lat XIX w. ruch ten liczył od 4 do 5 tysięcy członków. Dopiero wydarzenia 1905 – 1906 r. w Królestwie Polskim wpłynęły na rozwój liczebny organizacji syjonistycznych. Wtedy właśnie zaczęły powstawać żydowskie partie syjonistyczne.

Jedną z pierwszych była Mizrachi powstała w Wilnie w 1902 r. jako frakcja Światowej Organizacji Syjonistycznej. W Polsce wyodrębniła się jako samodzielna partia w 1917 r. Na początku lat 20. XX w. liczyła ok. 100 tysięcy członków. W swym programie łączyła zasady religii żydowskiej z ideą zbudowania państwa żydowskiego w Palestynie. W tym samym czasie ukonstytuowała się partia ogólnych syjonistów, zwana Organizacją Syjonistyczną w Polsce (Histadrut). Od 1917 r. koncentrowała się na realizacji dwóch celów: budowie żydowskiej siedziby narodowej w Palestynie oraz autonomii narodowo-kulturalnej w Polsce. Do najwybitniejszych działaczy tej partii należeli Apolinary Hartglas, Icchak Grünbaum (1879 – 1970), Ignacy Schiper (1884 – 1943).

W zaborze austriackim początki ruchu syjonistycznego sięgają końca XIX w. W 1897 r. doszło do powstania pierwszej ogólnokrajowej organizacji syjonistycznej, która połączyła działaczy i organizacje istniejące na tym terenie już dużo wcześniej. W 1904 r. w czasie konferencji w Krakowie powołano jednolitą partię Poalej Syjon (hebr. Robotnicy Syjonu). Podstawą jej programu było dążenie do budowy socjalistycznego państwa w Palestynie. Opowiadała się za autonomią narodowo-kulturalną w krajach osiedlenia diaspory żydowskiej, a w szczególności w krajach Europy Środkowo-Wschodniej, w tym w Polsce. W 1905 r. rozpoczęła działalność wśród żydowskich robotników zaboru rosyjskiego.