Kuidas küla kuni kiriku ehitamiseni kutsuti, pole teada. 1346.a. puitkabeli asemele rajatud kirik pühitseti Neitsi Maarjale. Kiriku nimepäev on 8. septembril, Neitsi Maarja sünnipühal e. Ussi-maarjapäeval. Et naaberkihelkonnas, Amblas, oli sajandi võrra varem rajatud Maarja kirik, siis nende eristamiseks kutsuti vanemat kirikut – St. Mariae amplae (Suursugune Maarja) ja siinset kirikut – St. Mariae minoris (Väike Maarja). Ühes uue pühakoja rajamisega lahutati ümberkaudsed alad Simunast iseseisvaks kihelkonnaks.

Väike-Maarja kirik püstitati kindluskirikuna. Seda kinnitavad kuni 3,3m paksused müürid, torniseintes asuvad laskepilud ning lääneseinas kummalgi pool ust paiknevad piluavadega laskekambrid.

Kaks paari kõrge sokliga ümarpiilareid jagab pikihoone kolmeks lööviks. Trapetsikujulistele püramiidjatele konsoolidele toetuvad ristvõlvid sarnanevad 14. saj. II poolest pärineva Vao tornlinnuse omadele, viidates samadele ehitusmeistritele.

Kantsel ja suur osa pingistikust pärinevad Põhjasõja järgse taastusremondi ajast 1773.a. Esialgselt ühe manuaaliga ja nn. laenupedaaliga oreli ehitas 1848.a. Gustav Normann. 1877.a. täiendas meister orelit kahe iseseisva pedaalregistriga. Tänaseks on see teadaolevalt vanim säilinud instrument meister Normannilt. Orel renoveeriti 2005. a.