Né près de Cologne, Zimmermann participe à la Seconde Guerre mondiale et en sort meurtri. Après-guerre, il se tourne vers la composition, influencé par Webern. Son œuvre évolue vers un langage personnel intégrant des citations et un pluralisme temporel. Ses œuvres majeures incluent Les soldats et Requiem pour un jeune poète. Souffrant de problèmes de santé et de dépression, il se suicide en 1970.