1903 gründete er auf Anraten einer dieser Villenbesitzer seine eigene Gärtnerei und Baumschule. Im selben Jahr kam auch sein erster Sohn Jakob der jüngere zur Welt. Er wurde in der zu den Kunden zählenden Rolandsmühle geboren.
Nach den Wirren des ersten Weltkrieges ging Jakob Junior nach einer Lehre, als Baumschulist in Remagen, nach Berlin um dort seinen Meister zu machen.
Noch vor dem zweiten Weltkrieg stieg Jabobs jüngerer Bruder Leonhard in den elterlichen Betrieb ein.