Zachow kształcił się prawdopodobnie u swojego ojca, dudziarza Heinricha Zachowa, jednego z lipskich muzyków grających w Alta capella, a być może u Johanna Schelle, czołowego niemieckiego kompozytora, kiedy rodzina przeniosła się do Eilenburga. Jako Kantor i organista kościoła Market Church w Halle w 1684 roku zastąpił Samuela Ebarta. Podczas pobytu w Halle zyskał szczególną sławę jako kompozytor kantat dramatycznych. W 1695 r. spotkał się z krytyką ze strony pietystów za zbyt długą i rozbudowaną muzykę, którą mogli docenić jedynie kantorzy i organiści. Zachow był pod wpływem Johanna Theile'a w Merseburgu i poezji Erdmanna Neumeistera, pastora w pobliskim Weissenfels, oraz jego krytyki pietyzmu.