Gaylord Yost a commencé sa vie d'amour avec le violon alors qu'il était élève à l'école primaire de l'Ohio. À l'âge de 15 ans, il était si avancé dans ses capacités qu'il devint le principal professeur de violon de sa communauté et avait une classe de huit élèves. Après avoir étudié à Tolède et à Détroit, il se rend à Berlin, en Allemagne, en 1906, où il étudie avec Issaye Barmas, un violoniste russe qui y vit, enseigne et se produit devant le public allemand. À son retour aux États-Unis, il enseigne le violon à Indianapolis. Durant cette période, il a effectué une tournée de concerts en Europe, une en Amérique centrale et trois aux États-Unis, d'un océan à l'autre. Il fut le premier violoniste à donner un programme complet d'œuvres américaines.