Philippe Gilbert commence à disputer des courses pendant son adolescence, d'abord en individuel en étant entraîné par son grand frère Christian et ses parents. En mai 1997, il remporte le championnat de la province de Liège en catégorie débutants, à Manaihant, et s'inscrit au VC Ourthe-Amblève. Il gagne sept courses durant cette année, puis 23 en 1998.

En 1999, il passe en catégorie junior, au club Woonbemiddeling à Alost. Il gagne douze fois cette année, dont les championnats de Liège du contre-la-montre et de la course en ligne et une étape du Tour de Basse-Saxe. Il rejoint l'année suivante l'équipe Go Pass, dirigée par l'ancien coureur Dirk De Wolf, vainqueur de Liège-Bastogne-Liège en 1992. À nouveau double champion de la province de Liège, il gagne 19 fois, dont le Tour de Cantabrie, le Tour de Haute-Autriche, et une étape du Tour de Toscane. Il obtient ainsi sa sélection pour les championnats du monde juniors à Plouay en France. Il y prend la 41e place de la course en ligne.

En 2001, Philippe Gilbert accède à la catégorie espoirs, toujours chez Go Pass. Il gagne six courses. Il participe à la course en ligne des moins de 23 ans aux championnats du monde sur route à Lisbonne au Portugal, et en prend la 74e place. Il termine l'année à la 16e place du classement UCI des moins de 23 ans, et y est le meilleur coureur de son âge2. Il gagne douze courses en 2002, dont le Triptyque ardennais, le championnat de Wallonie, Romsée-Stavelot-Romsée. Il est également vice champion de Belgique espoirs, deuxième du Triptyque des Barrages, quatrième du Tour des Flandres espoirs. En fin de saison, il est une deuxième fois sélectionné en équipe nationale des moins de 23 ans aux championnats du monde. Il termine à la neuvième place de la course en ligne3.