Jego życie mogło potoczyć się zupełnie inaczej, bo start raczej nie zwiastował wielkiej kariery. Urodził się prawdopodobnie w 1901 r., w biednej rodzinie z Nowego Orleanu w stanie Luizjana. Ojciec Louisa przez większość życia zatrudniony był w wytwórni terpentyny, a matka, która urodziła chłopca w wieku lat szesnastu, przybyła do Nowego Orleanu ze wsi, by pracować jako służąca. Mała uliczka James Alley w dzielnicy Back o’Town, gdzie Louis mieszkał jako dziecko, nie miała zbyt dobrej reputacji. „Obok ludzi bogobojnych mieszkali tu szulerzy, kanciarze, drobni alfonsi, złodzieje i prostytutki, było też zatrzęsienie dzieci. Wokół licznych barów, szynków i spelunek krążyły kobiety lekkich obyczajów, wabiąc klientów do swoich klitek” – pisze Armstrong we wspomnieniach zatytułowanych „Moje życie w Nowym Orleanie”.

Między knajpą a kościołem

Kiedy był małym chłopcem, jego rodzice rozstali się. Matka wyprowadziła się, zostawiając go u babki, a ojciec odszedł w swoją stronę, wiążąc się z inną kobietą. Po dwóch latach zeszli się z powrotem na pewien czas, ale wychowaniem chłopca przez pierwsze lata i tak zajmowała się babka. Zarówno ona, jak i prababka były kobietami religijnymi, dlatego swoje pierwsze fascynacje muzyczne z czasów, gdy – jak stwierdził – „nie potrafił odróżnić trąbki od grzebienia”, Armstrong wiązał z kościołem. „W kościele i w szkółce niedzielnej dużo śpiewałem – myślę, że stamtąd wyniosłem swoje umiejętności wokalne. (...) Od najmłodszych lat zawsze byłem sumienny we wszystkim, co robiłem. W kościele wkładałem serce w każdą pieśń, którą śpiewałem. Do dzisiaj jestem głęboko wierzący i chodzę do kościoła, kiedy tylko mam okazję” – zanotował w swoich wspomnieniach.