Ґейлорд Йост розпочав своє життя зі скрипкою, будучи учнем початкової школи в Огайо. У віці 15 років він настільки розвинувся у своїх здібностях, що став головним учителем гри на скрипці у своїй громаді та мав клас з восьми учнів. Після навчання в Толедо та Детройті він поїхав до Берліна, Німеччина, у 1906 році, де навчався з Іссеєм Бармасом, російським скрипалем, який жив там і викладав і виступав для німецької аудиторії. Після повернення до США він викладав гру на скрипці в Індіанаполісі. За цей період він здійснив один концертний тур по Європі, один по Центральній Америці і три по США, від узбережжя до узбережжя. Він був першим скрипалем, який виконав цілу програму американських творів.