Die Melodie stammt wahrscheinlich von Edward Boatner, der den Song 1927 in Nashville in seinem Gesangsbuch Spirituals Triumphant – Old and New veröffentlicht hat. Fälschlich wird sie gerne James Milton Black zugeschrieben, der aber vielmehr 1896 die zu When the Saints are marching in komponiert hat, einem Stück das mit dem vorliegenden gerne verwechselt wird. Gesteigert wird die Verwirrung noch durch zahlreiche ähnliche Titel wie „When the Saints march in for crowning'“ (1898), „When all the Saints come marching In“ (1923) oder „When the Saints go marching home“ (1927).
Der Text von „When the Saints go marching in“ knüpft letztlich an die mündlich tradierten Spirituals der schwarzen Bevölkerung der USA an. Es existiert eine Vielzahl unterschiedlicher Fassungen, deren Autor meist nicht zuverlässig festgestellt werden kann. Entgegen verbreiteter Annahme stammt jedenfalls keine davon von Catherine Purvis, die vielmehr den Text zum bereits erwähnten When the Saints are marching in geschrieben hat.