Syn Józefa Wincentego Piotra i Marii z Billewiczów Piłsudskich, urodzony w Zułowie pod Wilnem 5 grudnia 1867 r., został dziesięć dni później ochrzczony w kościele w Sorokopolu. Otrzymał imię Józef po ojcu i jako drugie – swego patrona – Klemens. Tradycja rodzinna mówi, że koszulka mogła służyć do chrztu nie tylko jemu samemu, ale i licznemu rodzeństwu. Józef Klemens Piłsudski urodził się jako czwarte z dziesięciorga dzieci.
Jego ojciec w czasie powstania styczniowego był komisarzem Rządu Narodowego w powiecie rosieńskim. Matka wywodziła się z senatorskiego rodu, uwiecznionego m.in. przez Henryka Sienkiewicza w „Potopie”. Ona to zaszczepiała w synach kult wieszczów narodowych, nauczała historii ojczystej a wspólne modlitwy z dziećmi kończyła zapewnieniem: „Będzie Polska w imię Pana”. Józef Piłsudski napisał o niej: „Matka mnie do tej roli, jaka mnie wypadła, chowała”.
Losy pamiątek po Piłsudskim są równie burzliwe, jak czasy, w których znamienną cezurę wyznaczyła II wojna światowa. Po jej wybuchu pamiątki te wraz z transportem Funduszu Obrony Narodowej zostały wywiezione do Bukaresztu.
„W transporcie tym znajdowało się parę skrzyń i waliz z przedmiotami należącymi do rodziny Marszałka Piłsudskiego – relacjonował dr Wacław Jędrzejewicz. – Były to wielkie skrzynie z rękopisami, szable Marszałka, mundur, czapka, buława, część archiwum Kapituły Orderu Virtuti Militari i inne pamiątki z Muzeum Belwederskiego, gdzie zostały złożone przez rodzinę jako depozyt”.
O pamiątkach, które po 65 latach powróciły w 2004 r. do kraju, córka Marszałka Jadwiga Piłsudska-Jaraczewska w katalogu do ich wystawy w Sulejówku pisała m.in., że „były wywiezione z kraju po wybuchu wojny w 1939 r. i różnymi drogami przez Bukareszt, Sofię i Paryż, Sztokholm, a nawet Chicago, dotarły do Londynu.