Berry Gordy III nacque il 28 novembre 1929 a Detroit, Michigan, da Barry Gordy II e Bertha Fuller Gordy. Era il settimo figlio di una numerosa famiglia borghese trasferitasi da Milledgeville, Georgia. La famiglia era considerata molto unita e poteva far risalire la propria ascendenza a un proprietario terriero schiavista bianco, James Thomas Gordy, bisnonno del presidente Jimmy Carter.
Il padre di Berry lavorò per gran parte della vita in uno stabilimento Ford, mentre i fratelli maggiori divennero imprenditori di spicco a Detroit. Gordy stesso abbandonò la scuola in undicesima classe e divenne pugile professionista prima di essere arruolato per la guerra di Corea.
Nel 1957, a Berry Gordy fu offerta l'opportunità di scrivere una canzone per Jackie Wilson. Il brano, "Reet Petite", raggiunse la Top 10 nel Regno Unito. Ne scrisse altre per l'artista, tra cui "Lonely Teardrops", enorme successo mondiale.
Berry Gordy scoprì il gruppo R&B The Miracles alla fine degli anni '50 e fondò un'etichetta chiamata Tamla Records. La distribuzione nazionale arrivò da United Artist Records e diede a Gordy un nome noto nell'industria discografica.
Gordy lanciò Motown il 14 dicembre 1959. I primi due successi dell'etichetta furono "Money (That's What I Want)" e "Please Mr. Postman". Stabilì una sede chiamata Hitsville USA a Detroit e iniziò a preparare nuovi artisti per la promozione.