Klingberg urodził się w Warszawie w 1918 roku, tu także się wychował. W 1939 r. uciekł przed wkraczającą armią niemiecką do Rosji sowieckiej, gdzie zakończył przerwane w Polsce studia medyczne.
Podczas wojny walczył w Armii Czerwonej, gdzie dosłużył się stopnia kapitana. Był oficerem medycznym, prowadził m.in. kampanię przeciwko tyfusowi.
W 1945 r. wrócił do Warszawy, gdzie dowiedział się, że jego rodzina zginęła w Treblince. Pracował przez pewien czas jako naczelny epidemiolog w Ministerstwie Zdrowia, a w 1946 r. wraz z żoną wyemigrował do Szwecji.
Klingberg do końca życia zaprzeczał twierdzeniom izraelskich historyków, zdaniem których radziecki wywiad polecił mu wyemigrować do Izraela w 1948 r. Bez względu na to, jaka była prawda, Klingberg po przyjeździe do Izraela natychmiast wstąpił do wojska, gdzie dosłużyć się stopnia pułkownika w korpusie medycznym. Stworzył i był pierwszym dyrektorem laboratorium medycznego armii izraelskiej.
Izraelski wywiad dzięki informacjom uciekinierów z ZSRR podejrzewał Klingberga o szpiegostwo na rzecz Moskwy od lat 70. W 1983 r. Klingberg został aresztowany i przyznał się do do pracy dla KGB od lat 50. Jego sprawa była tak delikatna, że pierwsze przecieki w izraelskich mediach na ten temat pojawiły się dopiero w latach 90. Pierwsze 10 z 20 lat więzienia, na jakie został skazany, Klingberg spędził pod fałszywym nazwiskiem w więziennej izolatce.