Gardai (dabartinė Žemaičių Kalvarija) rašytiniuose šaltiniuose pirmąkart paminėti 1253 m. Miestelis įsikūręs prie Varduvos upelio, kuriame, anot legendos, buvo krikštijami žemaičiai. Krikštijamieji gaudavo naujus vardus, ir dėl šios priežasties upė pavadinta Varduva, o šalia esantis kalnas – Šv. Jono Krikštytojo kalnu.
Lietuvos didysis kunigaikštis Vytautas 1417 m. Gardų žemę padovanojo Žemaičių vyskupui. 1619 m. ant šv. Jono kalno buvo pastatyta koplyčia, 1622 m. įsteigta parapija.
1649 m. iš Liublino dominikonų vienuolyno į bažnyčią atgabenta 3,2 cm ilgio ir 0,6 cm pločio Šv, Kryžiaus relikvija, kuri čia laikoma iki šiol.
1750 m. Žemaičių Kalvarijoje pastatyta didelė ir puošni medinė bažnyčia, vyskupo Antano Tiškevičiaus rūpesčiu suremontuotos ar net ir perstatytos Kalnų koplyčios. Tačiau, atlaidams vis labiau populiarėjant, net ir ši nauja bažnyčia negalėjo sutalpinti visų į Kalvariją plūstančių maldininkų. Todėl 1780 m. dominikonai ėmė statyti didesnę, erdvesnę mūrinę bažnyčią. Statyba istorinių lūžių ir sukrėtimų bei valstybės žlugimo metais užtruko ilgai. Bažnyčia užbaigiama 1822 m., 1824 m. į ją iš medinės pernešami altoriai, ji pati pašventinama.
Caro valdžios įsakymu dominikonų vienuolynas 1889 m. uždaromas, į Žemaičių Kalvarija atkeliamas diecezinis kunigas. 1896 m. per gaisrą sudega bažnyčia. Surinkus lėšų, 1897 m. pradedami atstatymo darbai.
Atkūrus nepriklausomybę (1918 m.) ir įsteigus Telšių vyskupiją (1926 m.), Žemaičių Kalvarijoje įkurdinti marijonai, kurie čia pradėjo veikti nuo 1927 m. Marijonai čia turėjo pradžios mokyklą, dirbo su jaunimu, rūpinosi koplyčių atnaujinimu, aplinkinėse parapijose vedė misijas, rekolekcijas.
1948 m. marijonų vienuolynas sovietų valdžios buvo uždarytas, o bažnyčia vėl tapo parapine. Sovietų valdžia visaip draudė viešai reikšti savo religinius įsitikinimus, kėsinosi uždaryti koplyčias. Tačiau tikinčiųjų pastangomis Žemaičių Kalvarijos bažnyčia liko neuždaryta, o Kalnų koplyčios nenugriautos. Pakeistas tik miestelio pavadinimas – 1967m. jis pavadintas Varduva.
1987 m. liepos 8 d. Žemaičių Kalvarijoje iškilmingai paminėtas Lietuvos krikšto jubiliejus. Mažosios Bazilikos titulas Žemaičių Kalvarijos bažnyčiai suteiktas 1988 m. gegužės 6 d. 1989 m. miesteliui grąžintas senasis Žemaičių Kalvarijos vardas.
2004 m. popiežius Jonas Paulius II nustatė Žemaičių Kalvarijos šventovėje galimų gauti visuotinių atlaidų sąlygas bei tvarką ir leido pradėti Dievo Motinos su Kūdikiu paveikslo karūnavimo popiežiškosiomis karūnomis procesą. Šį procesą užbaigė popiežius Benediktas XVI. Paveikslo karūnacijos iškilmės surengtos 2006 m. spalio 8 d. *