"Dust My Broom" foi originalmente gravado por Robert Johnson em 23 de novembro de 1936 como “I Believe I’ll Dust My Broom” em San Antonio, Texas, e lançado em formato 78 rpm pelas gravadoras Vocalion, ARC e Conqueror.

Elmore James fez sua primeira gravação da canção em 1951 para a Trumpet Records, mantendo a melodia de Johnson e adicionando um riff de guitarra slide elétrico que se tornou o destaque da faixa.

A versão de James contou com Sonny Boy Williamson II no harmonica, Leonard Ware no baixo, e Frock O'Dell na bateria, com Ware fornecendo o ritmo boogie que sustentou o solo de guitarra.

Em 1952, o single de James se tornou um sucesso inesperado no R&B, levando-o a lançar mais gravações sob o nome Elmore James & His Broomdusters, incluindo “She Just Won’t Do Right” e “Dust My Blues”.

A canção foi regravada em 1959 por James junto com seu primo Homesick James, e em 1998 foi homenageada com a inclusão na Grammy Hall of Fame.