Gimė Gudeliuose, Marijampolės parapijoje. Mokėsi Marijampolės gimnazijoje, Seinų seminarijoje. 1908 m. įšventintas kunigu ir paskirtas į Lipsko parapiją Augustavo dekanate. Už slaptą patarnavimą unitams caro valdžios buvo nubaustas: jam atimta teisė užimti kokias nors pareigas pastoracijoje. Dirbo Seinuose prie katalikiškų laikraščių, rašė pamokslus „Vadovui“, piešė papuošimus kai kuriems Vilniaus laikraščiams ir knygoms. Matydamas, kad Lietuvoje negreitai galės eiti kunigo pareigas, išsirengė į JAV. Per Atlantą išplaukė „Titaniku“, kuris nuskendo, susidūręs su ledkalniu. Kunigas Juozapas Montvila ir dar du kunigai savo vietas gelbėjimosi valtyse užleido kitiems, klausė išpažinčių, guodė ir ramino keleivius, kol žuvo Atlanto gelmėse. Ši nelaimė nusinešė pusantro tūkstančio žmonių gyvybes.