Lemercier est issu d’un milieu artisanal. Fils de vannier, il s’oriente très tôt vers la lithographie, comme ses deux frères Gabriel (1807-1889) et Ambroise (1817-1889). Il entre ainsi en apprentissage chez Langlumé, où il travaille de 1822 à 1825, puis chez Knecht dans l’imprimerie fondée par Senefelder. Après cette formation à la presse, il achète un brevet et s’installe comme imprimeur lithographe à Paris. En 1837, il crée avec Benard les établissements lithographiques Lemercier Benard et Cie.