Landon è nato Eugene Maurice Orowitz a Forest Hills, New York. Suo padre, Eli Maurice Orowitz, era un produttore di abbigliamento ebreo, e sua madre, Peggy O'Neill, era un'attrice e ballerina cattolica. Landon aveva quattro fratelli:David, Robert, Tom e Cheryl.
Landon ha iniziato a recitare all'età di 14 anni, apparendo in diverse produzioni di Broadway. Ha firmato con la Warner Bros. nel 1956 e ha fatto il suo debutto cinematografico nel film _God Is My Partner_ (1957). Ha poi recitato in numerosi altri film, tra cui _Marjorie Morningstar_ (1958), _La leggenda di Tom Dooley_ (1959) e _Il giorno più lungo_ (1962).
Nel 1959, Landon fu scelto per il ruolo di Little Joe Cartwright nella serie televisiva western della NBC _Bonanza_. Lo spettacolo è stato un grande successo ed è durato 14 stagioni, rendendo Landon un nome familiare. Dopo la fine di _Bonanza_ nel 1973, Landon ha continuato a recitare in diversi film e serie televisive per la TV, tra cui _La piccola casa nella prateria_ (1974–1983), _Highway to Heaven_ (1984–1989) e _Us_ (1991). .
Landon è stato anche un regista e produttore di successo. Ha diretto numerosi episodi di _Bonanza_ e _La casa nella prateria_, oltre a diversi film per la TV. Ha anche prodotto diverse serie televisive, tra cui _The Love Boat_ (1977–1987), _Highway to Heaven_ e _Us_.
Landon morì di cancro al pancreas il 1 luglio 1991, all'età di 54 anni. Lascia la moglie, Cindy Landon, e nove figli:Mark, Josh, Jason, Michael, Shawna, Christopher, Cheryl, Erin e Kelly.