Son père, un violoniste amateur, lui enseigne le violon alors qu'il n'a que 5 ans. Il donne son premier concert à Varsovie à l'âge de 7 ans. Ce triomphe marque la naissance d'une carrière d'enfant prodige qui le conduit à entreprendre des tournées de concert jusqu'en Russie. De 1899 à 1904, il étudie le violon sous la tutelle de Leopold Auer et la composition au Conservatoire Rimski-Korsakov de Saint-Pétersbourg. Membre d'un cercle de musique folklorique juive, il s'intéresse et joue fréquemment de la musique hébraïque. Il publie en 1911 sa première composition influencée par cette musique folklorique, la Hebrew Melody, op. 33, pour violin et orchestre que le grand violoniste Jascha Heifetz ajoute immédiatement à son répertoire.
Directeur des départements de violon et de musique de chambre du Conservatoire Kharkiv d'Ukraine. Pendant la Première Guerre mondiale, il est mobilisé et sert dans l'Armée impériale russe de 1916 à 1918. Pendant la guerre, il continue de publier des œuvres, notamment la Suite bizarre, op. 41, et la Sonate no 2, op. 45, deux compositions pour violon et piano. Après la guerre, il donne plus de mille concerts à travers l'Europe.
En 1922, il déménage à Berlin avec son ami Mikhaïl Gnessine qui devient son partenaire dans une maison d'édition dévolue à la musique juive. En 1924, il séjourne en Palestine et, l'année suivante, devient professeur de violon au Westchester Conservatory de New York. Plusieurs de ses compositions pour orchestre seront créées sur le sol américain, dont le Concerto pour violin no 1, op. 60 (publié en 1925) à l'Orchestre symphonique de Boston en 1927 et le Concerto pour violin no 2, op. 68 (publié en 1933) à l'Orchestre philharmonique de Los Angeles en 1936. Ses dernières œuvres sont marquées par l'atonalité et la polytonalité.
Suites pour violon et piano - Hagai Shaham, violon ; Arnon Erez, piano (26– et 8–, 2CD Hyperion CDA67841 / Biddulph Recordings LAW 021 [CD1]) (OCLC985893037 et 1014140322)
Concerto pour violon* ; The Golem ; Deux tableaux de Belhazzar - Elmar Oliveira, violon* ; Rundfunk-Sinfonieorchester Berlin, dir. Joseph Silverstein* ; Orchestre symphonique de Barcelone, dir. Gerard Schwarz (juillet 1998/septembre 2000, Naxos)