Hervé Bazin naît au sein d'une famille dévote et bourgeoise. Il s'oppose à sa mère autoritaire et sèche et fugue plusieurs fois pendant son adolescence. Il refuse l'enseignement catholique en droit qu'on lui impose et, l'année de ses vingt ans, rompt avec sa famille.
Il passe son enfance dans le Maine-et-Loire, à Marans. Il entre en pensionnat puis part en faculté de lettres à la Sorbonne. Malgré les souvenirs douloureux que lui évoquent les murs du Pathy, manoir de ses parents, il reste toute sa vie très attaché à sa région natale, où il situe bon nombre de ses romans.
Il commence par exercer de nombreux petits boulots et écrire de la poésie, une première quinzaine d'années, sans éclats. À noter tout de même la création d'une revue poétique en 1946, La Coquille (huit volumes seulement), et l'obtention du prix Apollinaire pour Jour, son premier recueil de poèmes, suivi d'À la poursuite d'Iris en 1948.
Sur le conseil de Paul Valéry, il se détourne de la poésie pour se consacrer à la prose.
Les rapports conflictuels qu'il a eus avec sa mère pendant son enfance lui inspirent le roman Vipère au poing en 1948, où est narrée la relation de haine entre Folcoche (surnom résultant de la contraction de « folle » et « cochonne »), une mère sèche et cruelle, constamment à la recherche de nouveaux moyens d'oppression et de brimade (voir par exemple l'histoire de la fourchette), et ses enfants, dont, en premier lieu, le narrateur, Jean Rezeau, surnommé Brasse-Bouillon. Maurice Nadeau apprécie ces « Atrides en gilet de flanelle », selon l'expression d'Hervé Bazin. Ce roman connait un immense succès après-guerre et est suivi de nombreux autres qui décrivent, avec un certain naturalisme et un art du portrait psychologique, les mœurs de son époque. D'autres romans ont comme héros les personnages de Vipère au poing : La mort du petit cheval et Cri de la chouette.
En 1950, il participe avec d’autres écrivains comme Marcelle Auclair, Jacques Audiberti, Émile Danoën, Maurice Druon