Urodzony w rodzinie katolickiej 7 września 1927 w Hartfordzie (stan Indiana) przyszły obrońca życia najpierw zaciągnął się pod koniec II wojny światowej do marynarki wojennej, by następnie ukończyć studia na katolickim Uniwersytecie Notre Dame. Przez pewien czas pracował jako dziennikarz, po czym zainteresował się teologią, chciał wstąpić do zakonu benedyktynów i nawet ukończył seminarium duchowne św. Meinrada w swym rodzinnym stanie, ale na kilka tygodni przed święceniami doszedł do wniosku, że jednak ma inne powołanie.

Po podjęciu kolejnych studiów na uniwersytecie Marquette mógł uczyć w Mundelein College w Chicago – prywatnej uczelni katolickiej dla dziewcząt. Tam też poznał swoją przyszłą żonę Ann Crowley, która – jak się później okazało – stała się dla niego wielkim wsparciem (do dzisiaj jest jedną z przywódczyń ruchu antyaborcyjnego). Małżeństwo doczekało się siedmiorga dzieci, 26 wnuków i 1 prawnuczki. Najstarszy syn – Eric obecnie zastępuje ojca w prowadzonej przez niego działalności.

W 1967 Scheidler rozpoczął pracę w dziale „public relations” dużej firmy Selz Seabolt jako kierownik działu reklamy. Doświadczenia z tej działalności także okazały się później niezwykle pomocne.

Przełomową datą w jego życiu stał się rok 1973, gdy toczył się proces „Roe przeciw Wade”, który zapoczątkował legalizację aborcji w Stanach Zjednoczonych. Przyszły lider obrony życia najpierw zamieszczał materiały antyaborcyjne na tych samych stronach gazet, na których reklamowały się kliniki aborcyjne, następnie organizował pikiety przed klinikami aborcyjnymi. Wreszcie w 1980 utworzył Ligę Działań na rzecz Życia (Pro-Life Action League), której sieć niebawem pokryła cały kraj. W 1985 wydał poradnik „Closed: 99 Ways to Stop Abortion”.

W przeciwieństwie do innych ówczesnych działaczy antyaborcyjnych, np. pastora Randalla Terry'ego, pikiety Scheidlera miały pokojowy charakter. Udawało mu się unikać sytuacji skrajnych, czynów wandalizmu itp. Potrafił zachować granicę tak, aby nie łamać prawa.

Mimo to aborcjoniści zaczęli wytaczać mu procesy, które wygrywał. Najbardziej znana jest sprawa z 1994, gdy do sądu pozwała go Narodowa Organizacja Kobiet (NOW), zarzucając mu „wymuszanie” (racketeering). Sąd Najwyższy najpierw stanął po stronie NOW, ale w 2006 ostatecznie zmienił swoją decyzje i uniewinnił katolickiego działacza. W 2016 Scheidler napisał książkę-wspomnienia o swoim życiu, zatytułowane "Racketeer for Life” (Rekieter dla Życia).

Zdaniem Mary Ziegler, wykładowczyni prawa na Uniwersytecie Stanowym na Florydzie, autorki książki „Abortion and the Law in America: Roe v. Wade to Present”, charyzmą założyciela Ligi było to, że „potrafił zawstydzać ludzi”. Z kolei Lila Rose – założycielka innej antyaborcyjnej grupy Live Action – nazwała go „radosnym wojownikiem (a cheerful warrior)”, odnosząc to do jego pogodnej twarzy i miłego głosu, gdy przemawiał publicznie.

Popularnie nazywano go „Ojcem Chrzestnym Ruchu Antyaborcyjnego" i tak też nazwał go w tytule autor artykułu w dzienniku nowojorskim Clay Risen.

Uroczystości pogrzebowe i żałobne Josepha M. Scheidlera odbyły się 25 bm w jego parafialnym kościele pw. św. Jana Kantego w Chicago.