1253. aastal sai Tallinna piiskop Torkill Saksa Ordu käest vahetuse teel maavaldusi Koeru ümbruses. Need valdused moodustasid hilisema Preedi piiskopimõisa tuumiku. Ilmselt rajati Koeru Maarja Magdaleena kirik varsti pärast tehingut ning ehitusisandaks oli piiskop Torkill.

Kirikul on nelinurkne kooriruum, mille idasein on kujundatud kõrge baldahhiinkaarega. Idaaknal on säilinud keskaegne ehisraamistik. Lõunaseinas paikneb piiskopile mõeldud istenišš. Põhjaseinas kulgeb müüritrepp, mille üks haru suundub pikihoone võlvidele, teine aga lõpeb ukseavaga võidukaares (praegu kujundatud aknaks). See uks viis koori pikihoonest eraldavale võrendile, millel paiknes jutluspult.

Selliselt kujundatud trepikäik on Eestis ainulaadne. Kolmelööviline pikihoone jäi algselt võlvimata, kuid kirdenurga müüritrepp osutab võlvimise kavatsusele. Torn on rajatud pikihoonega ühel ajal, selle linnuselaadsele ülakorrusele pääses pikihoone pööningu kaudu.

1282. aastal sai tsistertslaste Kärkna klooster Tartu lähedal Järvamaa foogti käest vahetuse teel maavaldusi Koeru kihelkonnas. Tsistertslaste saabumisega kihelkonda võib seostada pikihoone võlvimist. Sellele osutab ka figuur ühel ümarsamba kapiteelil. Kujutatud on kapuutsiga habetunud meest, kes hoiab käsi üleval nii, et koos kapuutsi teravikuga moodustub kolmnurk.

Tsistertslaste käemärkide keeles tähendab see “kirikut”. Kuna figuur kannab kitsavarrukalist rüüd, siis on tegemist mitte munga, vaid ilmikvennaga. Nemad ehitasidki ordule kuuluvaid kirikuid. Teistel kapiteelidel on kujutatud väänlat neelav hundi- ja ahvipea ning varagootilikud punga- ja lehemotiivid. Sellest perioodist pärinevad ka kvaadreid imiteerivad seinamaalingud.

Põhjaportaali ette rajatud eeskoda täitis algselt kabeli funktsiooni. Sellele osutavad aknaavad ida- ja lääneseinas. Kuna kabelite rajamine oli eriti aktuaalne hiliskeskajal, pole põhjust ka Koeru kabelit varasemasse perioodi asetada.

Käärkamber rajati ilmselt 18. sajandil. Seda oletust kinnitavad keskajale ebatüüpiline ruumijaotus, klassitsistlikult kujundatud ukseavad ja mõneti iseäralik silindervõlv. 1720. aastatel toimusidki suuremad taastamis- ja korrastustööd, sest Põhjasõja algul süütasid kiriku Vene väed. Kannatada said torn ja kiriku katus. Praegune tornikiiver pärineb 1721. aastast.

17. sajandil sai kunagisest Preedi piiskopimõisast Wredede suguvõsa pärusmõis. Selle suguvõsa liikmed on olnud kirikule helded annetajad. 1645. aastal kinkis vabahärra Caspar von Wrede kirikule praeguse vana altariseina, kantsli ja pingistiku (osaliselt säilinud). Stiili järgi otsustades valmis sisustus Tallinna meistri Lüdert Heissmanni töökojas. 1901. aastal kinkis Hermann von Wrede uue neogooti altariseina.

Suur nikerdatud krutsifiks on Tallinna meister Christian Ackermanni töö 17. sajandi lõpust. Kahepealise kulliga kroonlühter pärineb aastast 1654 ja ülejäänud kaks kroonlühtrit 19. sajandist. 1883. aastal ehitati kirikusse väärid ning aknaid pikendati allapoole. Esimene orel oli kirikus juba 1784. aastal, praegune valmis J. Walckeri töökojas Ludwigsburgis ning seati üles 1900. aastal. Tähelepanuväärselt ilus töö on neogooti köstripult.