Nella prima strofa, Wordsworth scrive di come il suo cuore sussulta quando vede un arcobaleno nel cielo. Dice che questa vista lo fa sentire "di nuovo bambino". Ciò suggerisce che Wordsworth crede che l'infanzia sia un momento di grande gioia e meraviglia e che spera di ritrovare questo sentimento nell'età adulta.
Nella seconda strofa, Wordsworth scrive di come ama passeggiare in campagna e ascoltare il canto degli uccelli. Dice che queste esperienze lo fanno sentire "calmo e libero" e che lo aiutano a dimenticare i suoi problemi. L'oratore ritiene che la natura possa avere un effetto curativo sullo spirito umano e che possa fornirci un senso di pace e tranquillità.
Nella terza e ultima strofa, Wordsworth scrive di come spera di continuare a sentirsi così per il resto della sua vita. Dice che vuole "vedere Proteo che sorge dal mare; / O sentire il vecchio Tritone suonare il suo corno inghirlandato". Queste linee si riferiscono a due figure mitologiche associate al mare. Chi parla crede che se potrà sperimentare queste cose, avrà vissuto veramente una vita piena e felice.
Nel complesso, la poesia "Il mio cuore balza quando vedo" parla della speranza di Wordsworth per una vita più lunga e felice. Crede che se potrà continuare a provare la gioia e la meraviglia che ha provato durante l'infanzia, e se potrà trascorrere del tempo nella natura, sarà in grado di raggiungere questo obiettivo.