Fils d'un cordonnier enrichi, Jean-Baptiste Rousseau fut élevé avec soin et fit de bonnes études chez les Jésuites au collège Louis-le-Grand. Selon les témoignages contemporains, il eut toujours honte de sa naissance obscure qu'il chercha à dissimuler et l'on prétend qu'il alla jusqu'à renier son propre père.

Pour s'accorder à l'esprit de dévotion que Madame de Maintenon répandait sur la fin du règne de Louis XIV, Jean-Baptiste Rousseau commença par composer l'imitation d'un psaume qu'il mit, dit-on, entre les mains du maréchal de Noailles. Le poème plut et son auteur fut appelé à composer des odes religieuses pour l'édification du duc de Bourgogne. Dans le même temps, il rimait en secret des épigrammes licencieuses pour le grand-prieur de Vendôme et la Société du Temple, dans laquelle il avait été introduit par le marquis de La Fare et l'abbé de Chaulieu. On a dit qu'il composait ses psaumes sans dévotion et ses épigrammes, qu'il appelait les Gloria patri des premiers, sans libertinage.

L'habileté qu'il montrait dans la versification lui attira la protection de Boileau, qui le guida de ses conseils et le considérait comme le seul qui fût capable de continuer la manière classique. Il fut également protégé par le baron de Breteuil, introducteur des Ambassadeurs et père de la marquise du Châtelet, et le futur maréchal de Tallard. Ce dernier l'emmena avec lui en 1697 lors de son ambassade à Londres auprès de Guillaume III d'Angleterre, ce qui lui permit de faire la connaissance de Saint-Evremond. Rousseau rentra en France en avril 1699. Peu après son retour, le directeur des finances, Hilaire Rouillé du Coudray, se fit son mécène. C'était un grand amateur du « goût italien », proche de Philippe d'Orléans, futur Régent. En 1748, Voltaire écrira dans sa Vie de Monsieur Jean-Baptiste Rousseau : « Rouillé avait une maîtresse, nommée Mlle de Louvancourt, qui avait une très jolie voix [...]. Rousseau [...] pour leur plaire [...] composa [...] les paroles [de]