O álbum *Cabretta* contou com a participação dos membros originais da banda, que tocaram apenas nos dois primeiros discos antes de serem substituídos por músicos recrutados por Willy DeVille.

Foi gravado quando o Mink DeVille ainda estava fortemente ligado à cena punk do CBGB de Nova Iorque, refletindo a energia crua dos primeiros anos da banda.