Baron Roman Nikołaj Maksymilian Fiodorowicz von Ungern-Sternberg urodził się w austriackim Grazu. Biurokratyczne nieścisłości wynikające z różnic między gregoriańskim a juliańskim kalendarzem sprawiają, że datę jego narodzin określa się między 16 grudnia 1885 r. a 23 stycznia 1886 r. Ojcem Romana był Theodor Leonhard Rudolf von Ungern-Sternberg, Estończyk pochodzenia niemieckiego. Matka Sophie Charlotte von Wimpffen była pochodzącą z Hesji Niemką. Nieudane małżeństwo rodziców zakończyło się rozwodem, po którym matka zabrała kilkuletniego syna do Rewla, czyli dzisiejszego Tallina, gdzie chłopiec spędził pozostałą część dzieciństwa.