Zasłynął jako twórca macedońskiej falangi, wyposażonej w długie na 5 – 6 m sarissy. Doskonale wyszkolona falanga okazała się formacją niepokonaną, z którą nie radzili sobie ani greccy hoplici, ani (w niedalekiej przyszłości) żołnierze perscy. Stworzył tzw. korpus paziów (basilikoi paides), złożony z dzieci macedońskich arystokratów ściągniętych na dwór królewski, w którym z jednej strony zaprawiali się w jakże trudnej sztuce rządzenia, a z drugiej – dawali gwarancję lojalności rodziców wobec monarchy.
Przede wszystkim jednak dokonał w Macedonii czegoś, co bez wielkiej przesady możemy określić mianem rewolucji cywilizacyjnej. Aleksander Wielki tak o tym mówił do swych żołnierzy w 324 r. p.n.e.: „Przed Filipem byliście włóczęgami i ludźmi bezbronnymi, większość z was odziana była wówczas w skóry i wypasała owce na zboczach wzgórz, uczynił was potężnymi przeciwnikami wrogich wam sąsiadów, tak że ufaliście już teraz nie w naturalną obronność waszych wsi, lecz w waszą odwagę. Uczynił was mieszkańcami miast i ucywilizował was dobrymi prawami i obyczajami”.
Jednym ze sposobów służących integracji całego państwa były szeroko stosowane przez Filipa II przesiedlenia, o których historyk Justyn opowiada w związku z wydarzeniami 346 r.: „Wracając do swego królestwa, przenosił narody i miasta w zależności od swego uznania, czy chciał jakieś tereny zaludnić, czy pozbawić ludzi. Podobny był w tym do pasterzy, którzy przepędzają swoje stada bądź to na pastwiska zimowe, bądź to letnie (...) Jedne plemiona umieścił Filip na granicach państwa, bezpośrednio naprzeciw wrogów, inne na najdalszych jego krańcach, pewną część jeńców wojennych przydzielił miastom dla uzupełnienia ludności. W ten sposób z wielu ludów i plemion stworzył jedno królestwo i jeden naród”.
