Artista di vaudeville fin dalla giovane età, Howard aveva recitato in diversi cortometraggi muti prima di collaborare con il fratello maggiore Shemp Howard e l'amico Larry Fine nel 1922 per formare i Three Stooges. Nel 1934, la squadra firmò un contratto con la Columbia Pictures, dove raggiunsero la fama internazionale per le loro routine comiche slapstick.
Howard è apparso in quasi tutti i 190 cortometraggi e 23 lungometraggi dei Three Stooges, oltre a numerose apparizioni televisive e altri progetti. Era il leader de facto del gruppo e un uomo etero, e i suoi occhiali da vista erano una parte essenziale della personalità del suo personaggio.
Al di fuori dei Three Stooges, Howard ha avuto una breve carriera da solista negli anni Quaranta e all'inizio degli anni Cinquanta, durante la quale ha recitato in diversi cortometraggi e lungometraggi. Ha anche fatto diverse apparizioni in programmi televisivi, inclusa come guest star in I Love Lucy.
Nel 1955, Howard si riunì con Shemp e Fine per gli ultimi anni dei Three Stooges alla Columbia Pictures, e continuarono a esibirsi insieme fino alla morte di Shemp nel 1955. Howard e Fine continuarono a esibirsi in duo fino alla fine degli anni '60, quando le loro esibizioni divennero meno frequente a causa di problemi di salute e del calo di popolarità.
Howard morì di cancro ai polmoni nel 1975 all'età di 77 anni. È considerato uno dei comici più iconici di tutti i tempi ed è riconosciuto insieme a Shemp e Fine come una delle squadre comiche più influenti della storia.