Non esiste un unico inventore. I primi clavicembali apparvero in Italia (XIV–XV secolo), evolvendosi da tastiere antecedenti come il clavicordo e il monocordo. Un esempio precoce, il Clavicembalo Ottaway, è attribuito al costruttore veneziano Dominicus Pisaurensis.
Lo strumento si diffuse rapidamente in Fiandra (famiglia Ruckers), Francia (Blanchet, Taskin), Inghilterra (Kirkman, Shudi) e Germania, sviluppando varietà timbriche e meccaniche diverse. La meccanica a plettro (jack) che pizzica le corde, anziché percuoterle come nel pianoforte, ne definisce il suono brillante e articolato.
Il clavicembalo fu lo strumento a tastiera predominante dal Rinascimento al tardo Barocco, essenziale per il basso continuo e come solista in concerti (Bach, Vivaldi, Handel). Cadde in disuso con l'avvento del pianoforte, per essere riscoperto nel XX secolo grazie al movimento della prassi esecutiva storica.