Fils d’un fermier, Joseph Wolf est né à Mörz, à proximité de Münstermaifeld et de la rivière Moselle dans la région d’Eifel. Pendant son enfance, il étudie avec un vif intérêt la vie des oiseaux et des animaux, montrant des capacités remarquables pour dessiner les sujets en histoire naturelle. À seize ans, il va à Coblence travailler pour une compagnie de lithographie, puis en 1840 il part à Francfort où il illustre les oiseaux du nord-est de l’Afrique (Birds of Northeast Africa) de Eduard Rüppell (1794-1884). Il se rend ensuite à Darmstadt où il travaille pour le directeur du musée d’histoire naturelle, Johann Jakob Kaup (1803-1873).