Le groupe est formé le 31 juillet 1996 à Ajax en Ontario, le 41e jour de l'été ; c'est de là que vient leur nom "Sum 41", Sum étant en anglais le diminutif du mot summer signifiant "été". Composé initialement de Deryck Whibley (guitare et chant) et Steve Jocz (batterie), le groupe est complété par le recrutement de Marc Costanzo à qui succède Dave Baksh (guitare), et de Jason McCaslin (basse). Les membres du groupe sont alors âgés en moyenne de 16 ans et s'attachent d'un pseudo : Bizzy.D (Deryck), Stevo 32 (Steve), Dave Brownsound (Dave) et Cone (Jason).

Le groupe surfe sur la vague pop punk de l'époque et après plusieurs spectacles et premières parties de concert dont Blink-182, ils signent en 1999 avec le label canadien Aquarius pour le Canada, et Island Records pour les États-Unis. Universal est alors chargé de la distribution.

Les débuts (2000-2002)
Sum 41 sort son premier album Half Hour Of Power en juin 2000. Il se vend peu, mais leur donne l'occasion d'effectuer une tournée aux États-Unis. En effet, le groupe assure la première partie de groupes très connus : Blink-182 et The Offspring, entre autres.

Après plusieurs mois sur la route et une notoriété qui ne fait qu’augmenter, ils retournent en studio avec le producteur Jerry Finn afin d’enregistrer All Killer, No Filler sorti en mai 2001. Cet album les propulse au sommet (notamment grâce aux titres In Too Deep et Fat Lip) et, à l'issue d'une grosse tournée suivant la sortie de l'album, 3 millions d'exemplaires de All Killer, No Filler sont vendus en une dizaine de mois.

Sur cet album figure le titre Pain for Pleasure, titre hommage aux groupes de heavy metal, tels Iron Maiden et Judas Priest. Sur ce titre, Stevo32 et Bizzy.D échangent leur place respective (Bizzy passe donc à la batterie, et Stevo au chant). C'est sur ce titre que le groupe a l'habitude de finir ses concerts.

En avril 2002 sort un DVD intitulé Introduction to Destruction. Il est composé du concert de Sum 41 à Londres, de