A história de Hallelujah começou com um agonizante processo de criação que durou quase cinco anos. Cohen, um compositor meticuloso, passou anos escrevendo a canção, que teve cerca de 80 versões. Planejada para ser o grande destaque do disco Various Positions, de 1984, a música não teve a recepção esperada pelo cantor.