Kaminski est né à Tiengen dans la Forêt-Noire, fils d'un prêtre de l'Église vieille-catholique et d'ascendance juive. Après avoir travaillé pendant une courte période dans une banque à Offenbach-sur-le-Main, il est allé à Heidelberg pour étudier le droit. Heureusement, il a eu la chance de rencontrer Martha Warburg qui a changé son destin : elle a reconnu son don musical. En 1909, il va à Berlin et entreprend des études de musique au Conservatoire Stern, et apprend le piano avec Severin Eisenberger.
En 1914, il commence à enseigner le piano à Benediktbeuern. Parmi ses amis du moment, on trouve le peintre Emil Nolde et Franz Marc, dont l'épouse était une de ses élèves pour le piano.
Son contrat se terminait en 1933 et n'a pas été renouvelé à cause de ses "opinions politiques" et il est retourné à Benediktbeuern. Plusieurs tentatives pour retrouver son poste ont échoué pour la même raison. Une vérification de son ascendance - il a été catalogué en 1938 comme "demi-juif", et en 1941 déclaré "quart de juif" - a conduit à une interdiction permanente de l'exécution de ses œuvres. Il a été amené à fuir en France puis en Suisse entre autres lieux.
Entre 1939 et 1945, il a perdu trois enfants, et est décédé en 1946 à Ried (Bavière).
