鲁道夫·巴尔沙伊1924年9月28日出生于俄罗斯,少年时代曾参加儿童合唱团,后随泽特林(Lev Zeitlin)教授学习小提琴。他是鲍罗丁四重奏、柴可夫斯基四重奏的创建成员。1940年进入莫斯科音乐学院,曾与肖斯塔科维奇、里希特、奥伊斯特拉赫、罗斯特罗波维奇、吉列尔斯等知名苏联音乐家合作,获得了中提琴演奏的声誉。同时在莫斯科向肖斯塔科维奇学习作曲,最后在穆辛(Ilya Mussin)教授的指导下,于列宁格勒完成了乐团指挥的学业。1955年,他创建了莫斯科室内乐团,并担任乐团指挥。1977年移民国外后,他曾与英国的爱乐乐团、伦敦爱乐爱团、伦敦交响乐团、柏林广播交响乐团,以及北美的匹兹堡、辛辛那提、休斯敦和多伦多交响乐团等都有过合作。