Józef urodził się 21 stycznia 1905 r. w niewielkiej wsi Sławin, w połowie drogi między Ostrowem Wielkopolskim a Kaliszem. Był najstarszym z pięciorga dzieci Józefa i Marianny z domu Piaskowskiej. Maturę zdał w 1924 r. w gimnazjum w Ostrowie Wielkopolskim. W tym samym gimnazjum uczyło się trzech innych błogosławionych kapłanów: Jan Nepomucen Chrzan, Władysław Mączkowski i Aleksy Sobaszek.
Studiował w seminarium duchownym w Poznaniu i w Gnieźnie, często dojeżdżając z rodzinnego Sławina. Po powrocie do domu pomagał rodzicom w pracach gospodarskich. Święcenia kapłańskie przyjął 16 czerwca 1929 r. Jego pierwszą placówką była parafia św. Floriana w Chodzieży. W latach 1930-1936 był wikariuszem w parafii św. Marcina w Poznaniu.
W 1936 r. został proboszczem parafii św. Stanisława w Gościeszynie. Zamieszkali tu też rodzice Józefa oraz jego najmłodsze rodzeństwo, m.in. siostra Pelagia, która po 1945 r. wstąpiła do sióstr serafitek. Ks. Józef prowadził Katolickie Stowarzyszenia Młodzieży Męskiej i Żeńskiej, powołanych przez Akcję Katolicką w 1934 r., do których należała prawie cała młodzież parafii. Pomagał m.in. w przygotowaniach przedstawień teatralnych i animował działalność chóru kościelnego.
Wkrótce po wybuchu wojny parafia ks. Józefa stała się ofiarą brutalnego napadu kolonistów niemieckich z pobliskiej wsi Tarnowa. Wyłamano okna plebanii, dokonano rewizji osobistej obecnych, Józefowi przyłożono bagnet do szyi i kazano wyjść z domu. Tym razem skończyło się na straszeniu i rabunku mienia.
Jesienią 1941 r. Niemcy zaczęli aresztować w Wielkopolsce pozostałych jeszcze w parafiach polskich księży - zaczęła się czwarta, największa fala zatrzymań polskich kapłanów. Ks. Józef mógł uniknąć aresztowania, ostrzegano go. Nie skorzystał z okazji. 6 października 1941 r. został aresztowany przez gestapo. Przewieziono go do poznańskiego, Fortu VII, w którym Niemcy urządzili obóz koncentracyjny Posen. Dwa tygodnie później przewieziono go do KL Dachau i nadano mu numer 28074.
Po przybyciu odmówił podpisania niemieckiej listy narodowościowej. Był bity i szykanowany. Pracował w "komandzie śniegowym", bez odpowiedniego ubrania i obuwia, prześladowany przez sadystycznego kapo, o nieustannym głodzie. Niebawem przeziębił się, a jego ciało pokryło się wrzodami. Skierowano go wówczas do obozowego "szpitala", tzw. rewiru. Wyzdrowiał i po wyjściu z rewiru pracował na plantacjach. Mniej więcej w połowie 1942 r. zaczął słabnąć i chorować. Z trudem potrafił utrzymać w ręku kosz podczas prac w polu. Ostatnią próbę wydostania go z obozu podjęła rodzina. Gestapo miało postawić dwa warunki: wyrzeczenie się posługi kapłańskiej i podpisanie niemieckiej listy narodowościowej. Choć wiedział, że może mu to uratować życie, ks. Józef w ostatnim liście do rodziny dał do zrozumienia, że tego rodzaju warunków przyjąć nie może.
Zmarł z głodu 18 września 1942 r. Jego ciało spalono w obozowym krematorium. Został beatyfikowany przez papieża św. Jana Pawła II w Warszawie 13 czerwca 1999 r. w gronie 108 męczenników II wojny światowej.