Admis en 1909 à l'Académie royale des arts de Dresde (Königlichen Kunstakademie Dresden), il entre en 1912 à l'école des beaux-arts de Berlin (de) (Kunstgewerbeschule) où il est élève d'Emil Orlik (1870-1932).
Pour se défaire de la connotation allemande de son patronyme, il rajoute un « e » à la fin de son prénom et change en « sz » le « ß » de son nom. Au même moment, son ami Helmut Herzfeld anglicise son nom pour John Heartfield.
Enrôlé dans l'armée en 1914, il passe deux ans dans un régiment de grenadiers avant d'être réformé en mai 1917. La raison officielle de cette réforme argue d'une infection des sinus, bien qu'il soit resté quelque temps dans un hôpital psychiatrique militaire.
Adhérant aux idées communistes du Novembergruppe en 1918 et participant à l'insurrection spartakiste, Grosz est arrêté en janvier 1919. Il parvient à s'échapper grâce à de faux papiers d'identité. Avec Heartfield, il rejoint le Parti communiste allemand (KPD). Il participe aux revues politisées berlinoises comme Der Blutige Ernst ou Die Aktion. Son antimilitarisme et son engagement pour un art prolétaire lui causent des démêlés avec la justice : revues saisies ou interdites de parution, condamnation pour insulte envers l'armée impériale, censure de recueils de gravures comme « Gott mit Uns »1 (1920).
Baptisé « Maréchal Propagandada », Grosz organise avec Raoul Hausmann et Heartfield la Première foire internationale Dada à Berlin, le 5 juin 1920. Il pratique l'exagération caricaturale et montre avec vérisme, l'état du monde de l'après-guerre. Il emprunte aux futuristes et aux dadaïstes, la représentation dynamique et fiévreuse des grandes villes, en particulier dans son œuvre emblématique Les Funérailles d'Oskar Panizza (1917).
Anti-nazi, Grosz quitte l'Allemagne en 1932. Invité à enseigner l'art à l'Arts Students League de New York en 1933, il y travaille de façon intermittente jusqu'en 1955. Il devient citoyen des États-Unis en 1938. Son style s'édulcore et verse dans un