Józef urodził się 15 kwietnia 1852 r. w Dolomitach w północnych Włoszech. Pochodził z ubogiej rodziny chłopskiej. W 1862 r. rozpoczął naukę w szkole w Bressanone. Dziesięć lat później wstąpił do miejscowego seminarium duchownego. W trakcie studiów zainteresował się misjami. W 1875 r. przyjął święcenia kapłańskie. Trzy lata później, w 1878 r., wyjechał do Holandii i wstąpił do Zgromadzenia Słowa Bożego - Misjonarzy Werbistów. Pod kierunkiem założyciela, św. Arnolda Janssena, rozpoczął przygotowania do podjęcia misji.
W marcu 1879 r. wyjechał do Chin. Najpierw przez dwa lata uczył się w Hongkongu języka i posługiwał miejscowym chrześcijanom, by następnie wyjechać do powierzonych mu 158 chrześcijan w liczącej 12 milionów mieszkańców prowincji Południowego Szantungu.
W marcu 1882 r. Józef zamieszkał w prymitywnej, glinianej chacie w Puoli. Do pomocy w pracy duszpasterskiej zapraszał ludzi świeckich, którzy dzięki znajomości języka mogli o wiele skuteczniej pomagać w ewangelizacji. Z myślą o nich przygotował wyjaśnienia do katechizmu i różne inne pomoce duszpasterskie w języku chińskim.
W grudniu 1885 r. został zastępcą wikariusza apostolskiego, ustanowionego dla całej prowincji. Kościół na tym terenie liczył już wówczas blisko 700 chrześcijan i około 2000 katechumenów, przygotowujących się do przyjęcia chrztu. W 1894 r. Józef przeniósł się do Wangchungu, gdzie został wkrótce rektorem nowego seminarium. W 1900 r. został mianowany przełożonym prowincji werbistów w Południowym Szantungu.
W 1908 r. w prowincji wybuchła epidemia tyfusu. Ojciec Józef gorliwie spieszył na pomoc wszystkim potrzebującym. Zaraził się od nich chorobą i zmarł 28 stycznia 1908 r. w Taikii. Paweł VI beatyfikował go w październiku 1975 r., a św. Jan Paweł II ogłosił go świętym 5 października 2003 r.