Un meurtrier d'enfant jette les habitants d'une grande ville allemande dans la terreur et l'hystérie si bien que la police et la pègre se mettent toutes les deux à sa poursuite. Des avis de recherches sont lancés et une récompense est promise.
Dans une cité ouvrière, une mère attend impatiemment le retour de sa fille de l'école, mais un inconnu (dont le visage n'est pas montré à l'écran) réussit à l'attirer avec des sucreries. Après avoir découvert le cadavre, la police intensifie ses efforts de recherche, en vain. Les habitants en viennent à se soupçonner les uns les autres. Les dénonciations anonymes font croître la tension et les policiers sont à bout de forces.
Cependant, les rafles et les contrôles incessants dérangent les bandes criminelles dans leurs « affaires ». Aussi la pègre décide-t-elle, sous la direction de Schränker, de chercher elle-même le meurtrier et utilise dans ce but le réseau des mendiants. Alors que la police a identifié le meurtrier, celui-ci est reconnu par un vendeur de ballon aveugle (grâce à la chanson que le tueur siffle : Dans l'antre du roi de la montagne). Un « collègue » marque alors un « M » à la craie sur le manteau du meurtrier, après que le vendeur de ballons aveugle lui a indiqué où il se trouvait ; le meurtrier s'enfuit dans un bâtiment de bureaux que les bandes cernent. En se servant de leur attirail de cambriolage, ils fouillent la maison, attrapent le meurtrier d'enfants et l'emmènent dans une distillerie abandonnée. Là, toute la pègre rassemblée lui fait un procès macabre. Alors, il exprime d'une façon désespérée son aliénation et son dédoublement intérieur :
« Toujours, je dois aller par les rues, et toujours je sens qu'il y a quelqu'un derrière moi. Et c'est moi-même ! […] quelquefois c'est pour moi comme si je courais moi-même derrière moi ! Je veux me fuir moi-même mais je n'y arrive pas ! Je ne peux pas m'échapper ! […] quand je fais ça, je ne sais plus rien… Ensuite je me retrouve devant une affiche et je lis ce