W pierwszym okresie podstawę stanowił sprzęt ukryty przez polskich żołnierzy we wrześniu 1939 roku bądź też pozostawiony przez nich na pobojowiskach. W wielu wypadkach broń wymagała napraw ze względu na złe zabezpieczenie i warunki, w jakich przebywała przez kilka, kilkanaście miesięcy, a często także uszkodzenia dokonywane tuż przed rozbrojeniem (np. wyjmowanie i wyrzucanie zamków).
Na zdjęciach z początków konspiracji przeważają karabiny systemu Mausera, erkaemy Browning wz. 28. Stosunkowo najwięcej było broni krótkiej, łatwej do ukrycia, a poza tym w pewnej liczbie znajdującej się przed wojną także w prywatnych rękach. Wykorzystywano również broń myśliwską, a także starsze, jeszcze pierwszowojenne egzemplarze, odnajdywane nierzadko w domostwach i stodołach. Na wschodnich terenach II RP uzupełnieniem zasobów broni był sprzęt pozostawiony przez wycofującą się w panice w czerwcu 1941 roku Armię Czerwoną.
Z czasem istotną część arsenału zaczęła tworzyć zdobycz, w tym ta pozyskiwana w specjalnych akcjach rozbrojeniowych. Pochodziła ona od niemieckich (i nie tylko) członków rozmaitych formacji policyjnych i porządkowych, cywilnych pracowników różnych okupacyjnych służb i urzędów, wreszcie kolonistów, którzy w większości byli uzbrojeni. Nie zabrakło też uzbrojenia odebranego żołnierzom licznych oddziałów kolaboranckich rekrutowanych z obywateli ZSRR, którzy posiadali m.in. broń radziecką. Potem podziemny arsenał zasiliła broń zdobyta na regularnych niemieckich formacjach, zarówno Wehrmachtu, jak i SS, zwłaszcza kiedy front w 1944 roku zbliżył się do Polski i liniowe jednostki wroga znalazły się „pod ręką”. Pewną ilość broni zakupiono na czarnym rynku – były to zwłaszcza pistolety, ale trafiała się też broń cięższa, w tym karabiny maszynowe.
W miarę trwania wojny trafiało do Polski coraz więcej (ale nigdy w wystarczającej ilości) broni ze zrzutów. Pożądane były zwłaszcza pistolety maszynowe, które w wojnie nieregularnej, partyzanckiej, polegającej w dużej mierze na organizowaniu zasadzek, miały pierwszorzędne znaczenie. Przeważały zdecydowanie angielskie steny Mk II, a na zdjęciach z 1944 roku widać nawet oddziały jednolicie uzbrojone w te pistolety. Znacznie mniej było amerykańskich thompsonów M1928 A1. 45 cal, w niewielkiej ilości zrzucano peemy UD M1942 kal. 9 mm, jednostkowo trafiały się także raisingi. 45 cal. Wśród cięższej broni wymienić trzeba erkaemy Bren, karabiny przeciwpancerne Boys i granatniki przeciwpancerne PIAT, które okazały się niezwykle przydatne podczas powstania warszawskiego. Warto nadmienić, iż wśród zrzutowej broni trafiało się zdobyczne uzbrojenie niemieckie i włoskie (np. peemy Beretta).
Istotnym wreszcie źródłem zaopatrywania się w bojowe środki była produkcja konspiracyjna. Masowo wytwarzano granaty, zwłaszcza sidolówki i filipinki. Zbudowano także kilkaset miotaczy ognia, z których część wykorzystano w trakcie powstania warszawskiego. Największym wyzwaniem była jednak produkcja pistoletów maszynowych, wymagająca odpowiedniego zaplecza technicznego, materiałów i wreszcie doświadczonej kadry inżynierskiej. Najliczniej produkowano kopie angielskich stenów Mk II, które powstawały w kilku wytwórniach na terenie kraju, poza tym opracowany własny wzór peemu – Błyskawicę. Poza nimi należy wspomnieć o KIS i KOP-PAL. Podstawą arsenału podziemnego była oczywiście rozmaita broń strzelecka i granaty, jednak incydentalnie wykorzystywano również sprzęt ciężki. Sytuacja taka miała miejsce podczas walk w Warszawie w trakcie powstania, gdzie oprócz zdobycznych pojazdów pancernych zbudowano jeden wóz własnego pomysłu – „Kubuś”.
