Michaił przyszedł na świat we wsi Kurja w guberni ałtajskiej dwa lata po bolszewickim przewrocie. Był 17. dzieckiem w przeciętnej chłopskiej rodzinie. W 1930 r. ojciec jako kułak, czyli zamożny rolnik, został pozbawiony gospodarstwa i wraz z rodziną zesłany do obwodu tomskiego. Mimo ciężkich warunków panujących w nowym miejscu osiedlenia, Kałasznikow skończył siedem klas szkoły powszechnej, pasjonując się przedmiotami ścisłymi. W świetle sowieckiego prawa był jednak synem przestępcy, nie miał więc możliwości kontynuowania nauki. Ze znalezieniem pracy również było krucho. Udało mu się jednak, fałszując swój wiek, uzyskać dowód osobisty – dokument niezbędny do tego, aby móc swobodnie przemieszczać się po ówczesnym ZSRR. Na wszelki wypadek wyjechał daleko, bo aż na kazachstańskie stepy, gdzie w końcu znalazł zatrudnienie na stanowisku kolejowego rachmistrza.