Il testo "just someone that I used to know" proviene dalla canzone "Someone That I Used to Know" (talvolta titolata "Someone That I Used to Know" o "Used to Know") di Sia Furler, nota professionalmente come Sia.
Il brano fu pubblicato nel 2011 come parte dell'edizione deluxe del suo album We Are Born (originale 2010). Mostra il tipico mix di Sia tra lirismo vulnerabile, melodia slanciata e interpretazione vocale emotiva – tratti che definiranno poi il suo successo globale con 1000 Forms of Fear (2014) e hit come "Chandelier" ed "Elastic Heart".
Nota: questo non è il successo di Gotye/Kimbra "Somebody That I Used to Know" (2011), che condivide un hook lirico simile ma è una canzone completamente diversa.