Józef urodził się 17 stycznia 1842 r. w Korczynie koło Krosna. Od szóstego roku życia był ministrantem w kościele parafialnym. Po ukończeniu szkoły i egzaminie dojrzałości wstąpił do seminarium duchownego w Przemyślu. 17 lipca 1864 r. przyjął święcenia kapłańskie a rok później wyjechał do Rzymu na studia z teologii i prawa kanonicznego. Z okresu rzymskiego pochodzi jego praca „Życie duchowe, czyli doskonałość chrześcijańska”, która przez dziesiątki lat służyła zarówno kapłanom, jak i osobom świeckim. W 1869 r. został wykładowcą teologii pastoralnej i prawa kościelnego w seminarium przemyskim, a w latach 1877-1899 był profesorem i rektorem Uniwersytetu Jagiellońskiego.

Podczas pobytu w Krakowie blisko związany był z franciszkanami konwentualnymi, mieszkał przez siedem lat w klasztorze przy ul. Franciszkańskiej. Wówczas wstąpił do III Zakonu św. Franciszka, a profesję zakonną złożył w Asyżu, przy grobie Biedaczyny. W trosce o najbardziej potrzebujących oraz o rozszerzenie Królestwa Serca Bożego w świecie założył w Krakowie w 1894 r. Zgromadzenie Służebnic Najświętszego Serca Jezusowego (sercanek).

W 1899 r. został biskupem pomocniczym, a 17 grudnia 1900 r. ordynariuszem diecezji przemyskiej. Jako jedyny biskup w tamtych czasach, pomimo zaborów, odważył się w 1902 r. zwołać synod diecezjalny po 179 latach przerwy, aby oprzeć działalność duszpasterską na mocnym fundamencie prawa kościelnego.

Zmarł w Przemyślu 28 marca 1924 r. w opinii świętości. Beatyfikowany został w Rzeszowie 2 czerwca 1991 r. przez św. Jana Pawła II a kanonizowany 18 maja 2003 r. Ojciec Święty powiedział wtedy: „Dewizą życia biskupa Pelczara było zawołanie: "Wszystko dla Najświętszego Serca Jezusowego przez niepokalane ręce Najświętszej Maryi Panny". To ono kształtowało jego duchową sylwetkę, której charakterystycznym rysem jest zawierzenie siebie, całego życia i posługi Chrystusowi przez Maryję. Swoje oddanie Chrystusowi pojmował nade wszystko jako odpowiedź na Jego miłość, jaką zawarł i objawił w sakramencie Eucharystii. "Zdumienie - mówił - musi ogarnąć każdego, gdy pomyśli, że Pan Jezus, mając odejść do Ojca na tron chwały, został z ludźmi na ziemi. Miłość Jego wynalazła ten cud cudów, (...) ustanawiając Najświętszy Sakrament". To zdumienie wiary nieustannie budził w sobie i w innych”.

Relikwie św. Józefa Sebastiana Pelczara znajdują się w przemyskiej katedrze. W szczególny sposób święty biskup jest czczony w krakowskim kościele sercanek, gdzie znajduje się poświęcona mu kaplica.