A la mort du roi franc en 768, les premières difficultés apparaissent, les deux frères, Carloman et Charles ne s'entendent guère, le partage était dès lors prometteur de discorde. Selon les vœux de Pépin :
Charles obtenait l'Austrasie et le Nord de la Neustrie, il se fit sacrer roi à Noyon.
Carloman obtenait le Sud de la Neustrie, la Bourgogne et la Provence, il siégeait à Soissons.
En 769, l'Aquitaine se révolte, Charles demande l'aide de son frère, qui lui refuse. Charles prend alors la poursuite du duc d'Aquitaine et parvient à rétablir l'ordre en menaçant les Gascons (Basques) qui lui livrent finalement le duc rebelle. Mais en 770, c'est la Lombardie qui apparaît plus menaçante, la veuve de Pépin, Bertrade organise un mariage entre Charles et Désirée la fille du roi des Lombards. Mais les deux frères ne s'entendent toujours pas, et c'est finalement la mort de Carloman en 771 qui va tout changer. Charles destitue l'héritage de ses neveux qui s'enfuient avec Gerberge, la femme de Carloman, vers la cour lombarde (Gerberge est la fille du roi lombard). Charles est désormais roi unique des Francs.
Les relations entre Didier, le roi des Lombards et le jeune roi franc se dégradèrent très vite, Charles avait répudié Désirée qui était très laide. Le pape Adrien Ier se réjouissait de cette opportunité, comme l'avait fait son prédécesseur, il demanda de l'aide auprès du roi franc. Charles avait un grand intérêt à soumettre les Lombards, menace constante, d'autant que leur roi Didier voulait réhabiliter les fils de Carloman, réfugiés à sa cour, sur le royaume franc. Charles traversa alors les Alpes avec son armée, défit les Lombards qui se réfugièrent dans la ville de Pavie, capitale du royaume. En 774, la ville tombe et Charles prit le titre de « roi des Francs et des Lombards », il fit alors son entrée triomphale dans la capitale coiffé de la célèbre couronne de fer, dont le fermoir, selon la légende, a été forgé avec un clou de la Vraie Croix du