En début d'année 2001[26], Roger Federer s'offre le titre de la Hopman Cup aux côtés de Martina Hingis en gagnant trois de ses quatre matchs en simple. En février, il remporte son premier tournoi en simple (à Milan) et en double (à Rotterdam avec Jonas Björkman). Il brille pour la première fois en Grand Chelem en atteignant les quarts de finale de Roland-Garros et de Wimbledon. Lors du tournoi londonien, le Suisse bat Pete Sampras en cinq sets accrochés en huitième de finale[27], mettant fin au règne de l'Américain sur le gazon britannique. Ce match reste comme l'unique confrontation entre les deux hommes[28]. C'est le Britannique Tim Henman qui met un terme à son parcours en le battant en quatre sets[29]. Deux mois plus tard, durant l'US Open, Federer s'incline en huitième de finale face au no 2 mondial Andre Agassi [30]. La saison 2001 se termine comme la précédente par une défaite en finale du tournoi de Bâle[31].

L'année 2002[32] commence fort : à une victoire au tournoi de Sydney s'enchaîne une première finale en Masters Series en mars au tournoi de Miami à Key Biscayne. Il est alors défait en quatre sets par Agassi. Deux mois plus tard, le Suisse obtient une deuxième chance en parvenant en finale du Masters de Hambourg sur terre battue, chance qu'il saisit pleinement en dominant le Russe Marat Safin. Cependant, Federer s'incline ensuite dès le premier tour à Roland-Garros et à Wimbledon. Au début d'août, il apprend la mort accidentelle de Peter Carter, le capitaine de l'équipe suisse de Coupe Davis et entraîneur de sa jeunesse, un homme qui comptait beaucoup pour lui. Très touché par cette tragédie, il ne peut stopper la série de défaites durant la tournée américaine. Néanmoins, une superbe fin de saison comprenant un titre à Vienne lui permet de se qualifier in extremis pour le Masters de tennis masculin disputés à Shanghai. Invaincu dans les matchs de poules, il perd en demi-finale contre l'Australien Lleyton Hewitt en trois sets.

Federer commence la