Desmond è nato a San Francisco, in California, e ha iniziato a suonare il clarinetto all'età di 13 anni. È passato al sassofono al liceo e ha suonato in diverse band prima di unirsi al quartetto di Brubeck nel 1951.
Con il Brubeck Quartet, Desmond registrò alcuni degli album jazz più popolari e di successo degli anni '50 e '60, tra cui "Time Out" (1959), che conteneva la composizione di Desmond "Take Five".
Desmond lasciò il Brubeck Quartet nel 1967 e registrò diversi album come leader prima della sua morte nel 1977.
Desmond era noto per il suo stile di gioco cool e sobrio, spesso paragonato a quello di Stan Getz. Era anche un compositore di talento e scrisse molte delle canzoni più popolari del Brubeck Quartet, tra cui "Take Five", "Blue Rondo a la Turk" e "Unsquare Dance".
Desmond è stato inserito nella Down Beat Jazz Hall of Fame nel 1991.