Fils de Domingo de Heredia et de sa deuxième épouse, issue d'une famille de lointaine origine française établie dans la colonie espagnole de Saint-Domingue (Santo Domingo), Luisa (dite Louise dans de nombreux textes) Girard, elle aussi sujet espagnol, le poète vint au monde dans la plantation de café familiale nommée La Fortuna, près de Santiago de Cuba, le 22 novembre 1842. Il vint en France à l'âge de neuf ans pour poursuivre ses études au collège Saint Vincent de Senlis, où il resta jusqu’à son baccalauréat, en 1859. Il y fut un élève brillant et très apprécié. La découverte de l’œuvre de Leconte de Lisle fit sur lui une impression profonde.
De retour à Cuba en juin 1859, il passa un an à La Havane, approfondissant sa connaissance de la langue et de la littérature espagnoles avec le projet d'y poursuivre éventuellement des études de droit. C'est à Cuba qu'il composa les premiers poèmes français qui nous sont parvenus. Mais il n'y trouva pas l'ambiance de travail qu'il avait connue en France, et l'équivalence du baccalauréat français lui fut refusée pour des raisons administratives. Il revint donc en France en 1861, accompagné de sa mère qui, étant veuve et ayant marié ses trois filles aînées, tenait à veiller elle-même sur l'éducation et la conduite de son fils. Il s'inscrivit en octobre de la même année à la faculté de droit de Paris.
De 1862 à 1865, il suivit également, au titre d'étudiant étranger, les cours de l'École des chartes, où il fut un élève brillant et sérieux. Ses ambitions et ses goûts étaient plus littéraires que juridiques, et la fortune de sa famille, gérée avec précision et rigueur par sa mère (la majorité était fixée alors en Espagne à l'âge de 25 ans), lui épargna pendant un certain temps les difficultés matérielles. Il continua donc à écrire des poèmes, en particulier des sonnets. Il fit partie d'associations littéraires telles que la conférence La Bruyère, et fut un membre influent de l'école parnassienne. En 1863, il rencontra Leconte