Andrea Zani è nato a Casalmaggiore in provincia di Cremona. Ha ricevuto le sue prime istruzioni per suonare il violino da suo padre, un violinista dilettante. Successivamente ricevette l'istruzione di composizione da Giacomo Civeri, musicista locale, e studiò violino a Guastalla con il violinista di corte Carlo Ricci. Antonio Caldara, che lavorava come maestro di cappella presso la corte dell'arciduca Ferdinando Carlo a Mantova, non lontano da Casalmaggiore, ascoltò Zani suonare e lo invitò ad accompagnarlo a Vienna. Tra il 1727 e il 1729 Zani arrivò a Vienna e lì fu attivo come violinista al servizio degli Asburgo. Dopo la morte del suo protettore Caldara, avvenuta nel 1736, ritornò a Casalmaggiore dove rimase per il resto della sua vita, salvo occasionali apparizioni concertistiche. Morì nel suo paese natale in seguito ad un incidente, quando la carrozza con la quale viaggiava verso Mantova si ribaltò.