Le 1er juin 1940, un bombardement allemand cause la mort de 32 Marseillais et en blesse une soixantaine d'autres, le jour même où le bataillon de marins-pompiers, récemment créé, quitte la caserne provisoire de la rue de Lyon et prend possession de celle du boulevard de Strasbourg.
À la suite du débarquement américain en Afrique du Nord, le 11 novembre, les troupes allemandes franchissent la ligne de démarcation et Marseille se retrouve occupée le 12 novembre 1942, comme le reste de la Zone libre. La ville souffre grandement de l'occupation, et en particulier, lors de la « rafle de Marseille », le quartier du Panier au nord du Vieux-Port qualifié de quartier criminel par les nazis. Dans la nuit du 22 au 23 janvier 1943, plusieurs milliers de personnes sont arrêtées, et deux jours plus tard, le 24 janvier, le général SS Oberg, assisté du préfet René Bousquet, ordonne aux habitants du quartier du Vieux-Port d'évacuer leur domicile dans les deux heures, avec 30 kg de bagages. 30 000 personnes sont expulsées. Dans les deux semaines qui suivent, 1 500 immeubles sont dynamités, laissant un champ de ruines jusqu'à la Libération.
Marseille subit également plusieurs alertes aériennes. Le bombardement américain du 27 mai 1944 est particulièrement dévastateur et cause la mort de près de 2 000 personnes, en blessant environ 3000. Le 15 août 1944 a lieu le débarquement en Provence. À cette occasion, l'occupant fait sauter les installations portuaires : plus de 200 navires sont coulés et le célèbre pont transbordeur détruit.
Les FFI de Marseille (et parmi eux Gaston Defferre) préparent la libération de la ville. Le lundi 21 août, ils lancent l'insurrection accompagnée d'un mot d'ordre de grève générale. Mais mal armés et peu nombreux, leur position est critique jusqu'à l'arrivée des tirailleurs algériens du général de Monsabert qui pénètrent dans Marseille le mercredi 23. Les combats avec l'armée allemande se poursuivent plusieurs jours, jusqu'à la capitulation du général