Olsson è nato a Wallasey, Cheshire, Inghilterra. Ha iniziato a suonare la batteria all'età di 12 anni e ha suonato in diversi gruppi locali prima di unirsi alla band di John nel 1970. Da allora ha suonato in tutti gli album in studio di John e ha anche fatto numerosi tour con lui.
Oltre al suo lavoro con John, Olsson ha anche suonato la batteria per altri artisti, tra cui George Harrison, Ringo Starr e Stevie Wonder. Ha anche pubblicato due album da solista, "Nigel Olsson" (1975) e "Move the Universe" (1980).
Olsson è considerato uno dei migliori batteristi del rock and roll. È noto per il suo solido cronometraggio, la sua potente batteria e la sua capacità di fondersi con gli altri strumenti della band. È stato inserito nella Modern Drummer Hall of Fame e nella Rock and Roll Hall of Fame.