Huysmans fit toute sa carrière au ministère de l'Intérieur, où il entra en 1866. En tant que romancier et critique d’art, il prit une part active à la vie littéraire et artistique française dans le dernier quart du XIXe siècle et jusqu’à sa mort, en 1907.
Défenseur du Naturalisme à ses débuts, il rompit avec l’école littéraire créée par Émile Zola pour explorer les possibilités nouvelles offertes par le Symbolisme et devint le principal représentant de l’esthétique fin de siècle. Dans la dernière partie de sa vie, il se convertit au catholicisme et renoua avec la tradition de la littérature mystique.
Par son œuvre de critique d’art, il contribua à lancer en France la peinture impressionniste comme le mouvement du Symbolisme et permit au public de redécouvrir l’œuvre des artistes Primitifs.

En 1874, Huysmans fait paraître à compte d'auteur un premier recueil de poèmes en prose intitulé Le Drageoir aux épices. Il s’agit d’un mélange hétéroclite de pièces de prose poétique, où l’auteur rend hommage aux peintres hollandais et flamands (Rembrandt, Rubens, Adriaen Brouwer, Adriaen van Ostade, Cornélius Béga…) et à la poésie de François Villon. Si cette œuvre de jeunesse laisse encore deviner l’influence marquée du Romantisme – Gaspard de la Nuit d’Aloysius Bertrand – ou de la poésie moderne – les Petits poèmes en prose de Baudelaire –, elle témoigne cependant déjà d’un véritable talent d’écrivain réaliste et d’un intérêt marqué pour l'esthétique naturaliste développée à la même époque par Émile Zola.
En 1876, Huysmans publie son premier roman, d'inspiration ouvertement naturaliste, Marthe, histoire d'une fille, qui a pour thème la vie et les déboires d’une jeune Parisienne contrainte par une société cupide et sans scrupules à aller jusqu'à se prostituer pour survivre. Craignant la censure qui sévit alors en France, Huysmans fit d’abord éditer ce roman à Bruxelles.
La même année, il se lie d'amitié avec Émile Zola, dont il prend ouvertement la défense dans un