Le groupe, à sa fondation, se compose de Ruki (voix), Reita (basse) et de Uruha (guitare). Après avoir joué avec d'autres groupes, le trio décide que the GazettE sera leur dernier groupe[1]. À cet effet, ils recrutent en janvier 2002 Aoi (guitare) et Yune (batterie)[1].
Le groupe sort alors son premier single, Wakaremichi (originellement baptisé Martina), ainsi que le clip afférent le . En septembre de la même année, paraît Kichiku Kyoushi (32sai Dokushin) no Nousatsu Kouza, leur second single (un clip est là aussi tourné). En octobre, the GazettE se produit pour la première fois sur scène. À Noël, sort une compilation de cinq chansons, contenant notamment Yougenkyou.
Début 2003, Yune décide de quitter le groupe, et il est alors remplacé par Kai. Peu après, un contrat est signé avec le label indépendant PS Company, et le groupe sort son premier extended play : Cockayne Soup. En commun avec le groupe Hanamuke, une première tournée est ensuite organisée. À cette occasion, les deux groupes collaborent à la création de deux chansons. Plus tard, une seconde tournée est réalisée avec, cette fois, le groupe Vidoll, avec lequel the GazettE figure en une du magazine spécialisé Cure[2].
Début décembre, c'est avec le groupe Deadman que the GazettE se produit. Le 28 décembre, ils se produisent au Beauti-fool's Fest du magazine Fool's Mate (et le concert sort par la suite en DVD).
Le , les membres de the GazettE enregistrent un concert au Shibuya-AX(Tokyo Saihan -Judgment Day).
Le , ils sortent le mini-album Madara, qui se classe second aux charts d'Oricon. Madara est suivi en mai par un nouveau DVD comprenant six clips et un documentaire montrant le groupe en studio. Le même mois, the GazettE est en couverture du magazine Shoxx[3]. Un autre DVD, intitulé Heisei Banka, sort ensuite en août. En septembre et octobre, ils sont en tournée avec les groupes Kra et BIS. Enfin, en octobre toujours, ils sortent l'album Disorder qui se classe en 5e position de l'Oricon Charts.
En décembre2005, the GazettE sort son premier single chez un major, intitulé Cassis.
Début 2006, le groupe romanise son nom (qui était jusqu'alors en kanji), et sort, le son second long album, intitulé Nil. Il s'embarque ensuite pour une nouvelle tournée japonaise qui se termine au Nippon Budokan[4]. En juillet2006, the GazettE se produit au BeethovenHalle de Bonn, en Allemagne, pour leur premier concert hors d'Asie, organisé en marge du festival allemand de l'anime et du manga : AnimagiC[5].
Trois singles sont ensuite extraits du nouvel album studio Stacked Rubbish, sorti le , classé 2e à l'Oricon Charts. S'ensuivent, de juillet à septembre une nouvelle tournée japonaise puis, en octobre, la première tournée européenne de the GazettE, en Angleterre, en Finlande, en Allemagne et en France.
Un single intitulé Guren sort le et prend la tête de l'Oricon Charts. À l'automne 2008, ils sortent un nouveau single, Leech, extrait d'un nouveau DVD.
Le groupe entame en octobre une nouvelle tournée, intitulée From the Distorted City, en référence à leur chanson Distorted Daytime, qui fait le portrait d'un Tôkyô déformé par les crises politiques et sociétales secouant le Japon.
Le , the GazettE anime son premier show intime, à la station Shinjuku. À l'origine, environ 250 personnes étaient attendues, mais ce sont en réalité plus de sept mille spectateurs qui se pressent (un record dans l'histoire du groupe). Face à l'afflux de personnes dans les rues, la police est contrainte de faire arrêter le concert après seulement deux chansons[6],[7].
Le , the GazettE, avec les autres membres du label, se produisent à l'occasion du dixième anniversaire de leur producteur PS Company, et en profitent pour annoncer la sortie de leur nouveau single, intitulé Distress and Coma. Le 10 mars, le groupe célèbre ses sept années d'existence au Makuhari Messe.
Un nouvel album, Dim, sort l'été suivant, accompagné d'une tournée qui se conclut au Saitama Super Arena.
Le , sortie du single Before I decay.
Le , the GazettE fête Noël avec un live spécial intitulé A Hymn of crucifixion[8].
En mars2010, le groupe entreprend un tour des fan-clubs : The end of stillness[8].
Le single SHIVER est sorti le , servant au générique du manga Black Butler (Kuroshitsuji), suivi par deux autres singles RED le et PLEDGE le [9],[10].
Le sort FUCK THE BORDER LINE, un album en hommage à Kuroyume.
Le l'album DIVISION sort au japon pour n'arriver qu'au mois d'octobre en Europe.
En , le groupe part pour sa seconde tournée mondiale en passant la France, l'Allemagne, la Finlande, l'Argentine, le Chilli, le Brésil et le Mexique.
Le le groupe sort son 7e album BEAUTIFUL DEFORMITY qui dans l'ensemble est mieux accepté que les deux précédents. Cet album montre que The GazettE est réellement un groupe car chaque membre a composé au moins une chanson.