Rudolf Karel era hijo de un empleado ferroviario pobre. Estudió composición de 1899 a 1904 con Antonín Dvořák y órgano con Josef Klička en Praga. En Praga participó en la resistencia y en marzo de 1943 fue arrestado. Después de ser internado en Pankrác durante dos años (1943-1945), Karel fue enviado al campo de concentración de Theresienstadt (utilizado a menudo como punto de tránsito hacia Auschwitz pero como "campo modelo" donde las artes eran hasta cierto punto toleradas; varios artistas y compositores, entre ellos Pavel Haas, Viktor Ullmann, Hans Krása y Gideon Klein, donde al mes murió de disentería.