Indissociable de son nom de plume en collaboration d’Erckmann-Chatrian. Les deux hommes, associés depuis 1847, écrivirent ensemble de nombreux contes et romans à caractère réaliste qui souvent prennent leur source dans les croyances légendaires et populaires alsaciennes. L’une de leurs œuvres, L’Ami Fritz (1864), connut un vif succès et fut adapté à la scène. Ils finirent par se brouiller, et Erckmann n’assista même pas aux obsèques de son ancien ami et collaborateur (Chatrian repose à l’ancien cimetière de Villemomble).

Erckmann repose sous une imposante dalle ornée d’un médaillon par Auguste Davin.