Il commence le piano à l'âge de trois ans. Doué pour la musique, il semble se destiner à une carrière de pianiste. Adolescent, il va se passionner tour à tour pour l'architecture et la mise en scène de cinéma. Ce n'est qu'à l'âge de vingt ans qu'il revient sérieusement à la musique et va entrer au Conservatoire.
Il a été animateur musical régional dans les Pays Loire de 1967 à 1970; participé - à la demande de Marcel Landowski - à la fondation de l'Orchestre Philharmonique des Pays de Loire; professeur de composition aux Cours d'été de Dartington College (Grande-Bretagne) en 1967 et 1968; responsable des activités musicales dans les maisons de la culture de Rennes et de Nevers de 1970 à 1972; fondateur (avec Irène Jarsky et Martine Joste) et directeur du conservatoire municipal de Pantin de 1972 à 1976; responsable du département pédagogique de l'IRCAM de 1976 à 1979. Il a par la suite occupé les fonctions d'inspecteur principal de l'enseignement musical, chargé de la recherche au Ministère de la Culture de 1979 à 1991. De 1991 à 1994, il est détaché au district de l'agglomération de Montpellier en qualité de Directeur Général de l'Enseignement Spécialisé de la Musique, de la danse et de l'Art dramatique. De 1994 à 2001, il réintègre le Ministère de la Culture, et est chargé de l'enseignement. Depuis 2001, il a été successivement Président du CEFEPEDEM de Lorraine et Président de la Fondation Francis et Mica Salabert. Il est depuis 1981 sous contrat avec la maison d'Éditions Salabert.
Le parcours esthétique de Michel Decoust doit être replacé dans le contexte de son époque, c'est-à-dire l'engagement ou non à une esthétique d'avant-garde, à la musique sérielle, ou le choix revendiqué d'une indépendance. Cette dualité qui marque les années 1950 et 1960, Decoust la contourne à sa façon dans son parcours de compositeur : Du Prix de Rome obtenu en 1963 qui le distingue, il va écrire en 1967Polymorphie pour grand orchestre, œuvre expérimentale avec sons atomisés. Sa création au Festival international d'art contemporain de Royan par l'Orchestre National de France sous la Direction de Maurice Le Roux restera comme un scandale mémorable.
À propos du sérialisme, paraphrasant Pierre Boulez, Michel Decoust affirma en 1973 : « Cette expérience compte parmi mes plus grands échecs… En 1966, tout compositeur qui n'avait pas compris la nécessité de sortir de l'impasse où nous avait engagés le sérialisme était en deçà des problèmes de la composition à cette époque. »
De 1972 à 1983, il se consacre à la direction d'orchestre : il dirige un grand nombre de créations sans toutefois négliger le répertoire symphonique et lyrique.
Entre 1976 et 1982, son écriture évolue dans le sens d'un resserrement. C'est à partir de 1983, avec sa Sinfonietta pour 10 instruments que Decoust prend un virage décisif dans sa vie de musicien : l'exigence de l'écriture s'impose à lui et lui paraît incompatible avec la direction d'orchestre. Mener ces deux carrières de front semble nuire à sa vocation de compositeur. Il voit dans la direction d'orchestre une conception extravertie de la musique qui ne peut s'harmoniser avec le besoin d'intériorité que demande l'écriture. Il abandonne alors la direction pour se consacrer à la composition.