Anderson è nata a Filadelfia, in Pennsylvania, nel 1902. Ha iniziato a cantare in chiesa in tenera età e ha mostrato un grande talento. Ha studiato musica alla Philadelphia Musical Academy e successivamente alla Juilliard School di New York City. Nel 1925 fece il suo debutto professionale a New York City.
La carriera di Anderson ha avuto successo fin dall'inizio. Ha effettuato tournée negli Stati Uniti e in Europa, esibendosi in alcune delle sale da concerto più prestigiose del mondo. Ha anche registrato diversi album ed è apparsa in diversi film.
Nonostante il suo successo, Anderson ha dovuto affrontare una significativa discriminazione razziale nel corso della sua carriera. Le è stata spesso negata l'opportunità di esibirsi in determinati luoghi a causa della sua razza. Nel 1939, avrebbe dovuto esibirsi alla Constitution Hall di Washington, DC, ma le Figlie della Rivoluzione Americana (DAR), proprietarie della sala, rifiutarono di permetterle di esibirsi a causa della sua razza. Questa decisione scatenò una protesta nazionale e alla fine Anderson si esibì in un concerto sui gradini del Lincoln Memorial.
Il concerto di Anderson al Lincoln Memorial fu un importante punto di svolta nel movimento per i diritti civili. Ha contribuito a portare l’attenzione nazionale sulla questione della segregazione razziale e ha ispirato le persone a lottare per la parità di diritti. Anderson ha continuato a esibirsi per tutta la sua vita ed è diventata un simbolo di speranza e coraggio per gli afroamericani.
Anderson ha ricevuto numerose onorificenze e premi per il suo lavoro, tra cui la Medaglia Presidenziale della Libertà, la più alta onorificenza civile negli Stati Uniti. Morì a Portland, nell'Oregon, nel 1993.