“I Started a Joke” foi lançada como single nos Estados Unidos em dezembro de 1968, mas nunca chegou ao mercado britânico, onde apenas uma versão de Heath Hampstead foi lançada pela Polydor.

A faixa foi o último single do Bee Gees que contou com o trabalho de guitarra de Vince Melouney, que saiu da banda logo após o lançamento, em dezembro daquele ano.

O lado B padrão era “Kilburn Towers”, contudo, na França, a dupla trocou pela música “Swan Song”.

A composição foi predominantemente escrita por Robin Gibb, com a colaboração de Barry e Maurice nos versos de ponte, refletindo a dinâmica criativa interna do trio.

A produção foi feita pela própria banda em colaboração com Robert Stigwood, destacando a tendência dos Bee Gees de assumir controle artístico em seus lançamentos.