È nato il 10 giugno 1952 a Jacksonville, in Florida, e ha iniziato a suonare la chitarra in giovane età. Nel 1971, si unì alla band Molly Hatchet con sede a Jacksonville, e andò in tournée con loro fino al 1980.
Dopo aver lasciato Molly Hatchet, McKinney formò la band Andy McKinney and the Road Hawgs, che pubblicò due album negli anni '80.
Ha anche lavorato come turnista ed è apparso in album di artisti come Gregg Allman e Dickey Betts.
Negli ultimi anni, McKinney ha vissuto a Jacksonville, in Florida, e continua a suonare occasionalmente.