Esistono molteplici differenze che distinguono il jazz dalla musica classica, inclusa la scelta degli strumenti, lo stile musicale e il modo in cui la musica viene eseguita. Anche se i due generi condividono alcuni strumenti, il modo in cui questi vengono suonati e presentati rivela la natura distinta delle due forme musicali.
Un elemento base che distingue il jazz dalla musica classica è l'improvvisazione. Questo elemento è un processo creativo che permette al musicista jazz di essere spontaneo componendo musica mentre la esegue. I musicisti classici di solito eseguono le note esattamente come scritte dal compositore, sebbene in epoche passate figure come Mozart e Beethoven fossero note per le loro capacità improvvisative.
Il modo in cui i ritmi vengono eseguiti è un altro elemento fondamentale che separa i due stili. Anche se entrambi i generi si basano su un battito regolare, i battiti enfatizzati sono diversi. Mentre la musica classica enfatizza generalmente il primo tempo di ogni misura, il jazz enfatizza il secondo tempo e gestisce il ritmo in modo più flessibile, creando quello che è noto come effetto "swing". Questa tensione creata tra i battiti nel jazz si chiama sincopazione, un tratto che risale a uno dei maggiori precursori del jazz, il ragtime. Il ragtime stesso, però, è talvolta categorizzato come forma di musica classica poiché viene usually eseguito come scritto da compositori come Scott Joplin. Effetti ritmici estremamente complessi nella musica classica sono stati raggiunti da innovatori come Stravinsky e Messiaen.
Il jazz spesso combina ottoni, legni e percussioni. Le big band jazz fanno molto affidamento sugli ottoni, in particolare i sassofoni, raramente usati dai compositori classici, e il contrabbasso nel jazz è solitamente pizzicato anziché archeggiato come tipicamente avviene nella classica. Le orchestre classiche includono legni, ottoni, percussioni e anche archi come violino, viola e violoncello, raramente usati nel jazz. Un'orchestra classica conta tipicamente da 50 a 100 musicisti. Come altro esempio delle differenze di strumentazione, un trio con pianoforte nel jazz consiste tipicamente di pianoforte, contrabbasso e batteria, mentre nella classica consiste di pianoforte, violino e violoncello. Il pianoforte è strumento centrale in entrambi i generi.
I musicisti jazz suonano anche i loro strumenti diversamente dai classici, a volte usando abbellimenti e suoni "sporca" che creano colori timbrici distinti da quelli usuali nella classica. Il compositore George Gershwin, influenzato dal primo jazz, scrisse un famoso glissando per clarinetto all'inizio della sua Rhapsody in Blue che imita il suono "sporca" del jazz.
Storicamente, i musicisti jazz si sono esibiti in locali più informali come nightclub, hotel o jazz club specializzati. I musicisti classici si esibiscono solitamente in contesti più formali, come sale da concerto o anfiteatri. Col tempo, però, il jazz si è spostato sempre più nelle sale da concerto e in altri contesti formali. Il famoso clarinettista jazz Benny Goodman suonò alla Carnegie Hall già nel 1938. Oggi, il jazz, come la musica classica, è insegnato in università e conservatori e considerato da molti "musica seria".
La musica classica affonda le radici nell'XI secolo, nei canti gregoriani e nel plainsong sviluppatosi da monodico (scritto come una linea musicale) a organum (due o tre linee che si muovono simultaneamente ma indipendentemente, facendo emergere l'armonia). Nel XV secolo, i compositori iniziarono a scrivere musica corale e ad aggiungere composizioni strumentali alle linee musicali. Dal Rinascimento, la storia della musica classica è solitamente divisa in epoche barocca, classica, romantica, moderna e post-moderna. New Orleans è dove il jazz nacque alla fine del XIX secolo, creato principalmente dai discendenti degli schiavi africani liberati. Il jazz evolse da dixieland, ragtime, blues, marce e altre influenze, inclusa la musica classica. I suoi principali periodi storici includono swing, bebop e post-bop.