Sousa nacque a Washington, DC nel 1854. Iniziò a studiare musica in tenera età e mostrò un grande talento. Si unì alla Banda dei Marines degli Stati Uniti nel 1872 e rapidamente scalò i ranghi. Nel 1880 era il direttore della banda.
Sousa guidò la Marine Band per 35 anni, durante i quali compose molte delle sue marce più famose, tra cui "The Stars and Stripes Forever" e "Semper Fidelis". Ha scritto anche diverse operette e altre opere.
Sousa si ritirò dalla Marine Band nel 1929, ma continuò a comporre musica fino alla sua morte nel 1932. La sua musica è ancora eseguita da band e orchestre in tutto il mondo ed è considerato uno dei più grandi maestri di banda di tutti i tempi.