I Pearl Jam non scrissero "Last Kiss". Il brano fu scritto e registrato originariamente da Wayne Cochran nel 1961 (pubblicato sul suo album Wayne Cochran!). Divenne hit #2 nel 1964 per J. Frank Wilson & the Cavaliers.
La versione 1998 dei Pearl Jam nacque come jam durante soundcheck, evolse in singolo natalizio fan-club, e apparve poi nella raccolta rarità 2003 Lost Dogs. Il ricavato andò ai rifugiati del Kosovo. La band ha lunga tradizione di coverizzare brani che ama – questa è una delle loro interpretazioni più famose.