Bolin è nato a Sioux City, Iowa. Ha iniziato a suonare la chitarra all'età di sei anni e all'età di 17 suonava professionalmente in gruppi locali. Nel 1969, si unì alla band Zephyr, che pubblicò due album prima di sciogliersi nel 1971. Bolin si unì poi alla James Gang, in sostituzione di Joe Walsh. Ha registrato tre album con la band prima di lasciare nel 1973.
Nel 1975, Bolin si unì ai Deep Purple, in sostituzione di Ritchie Blackmore. Ha registrato un album con la band, Come Taste the Band, prima di andarsene nel 1976. Bolin morì di overdose a Miami Beach, in Florida, il 4 dicembre 1976, all'età di 25 anni.
Bolin era un chitarrista altamente qualificato che fu influenzato da una vasta gamma di musicisti, tra cui Jimi Hendrix, Eric Clapton e Jeff Beck. Era noto per il suo stile di gioco fluido e la sua capacità di creare melodie e assoli complessi. Era anche un cantautore e cantante di talento.
La morte di Bolin è stata una grande perdita per il mondo della musica. Era un musicista di talento che aveva il potenziale per diventare uno dei più grandi chitarristi della sua generazione.