Legendi kohaselt ehitati Rapla kihelkonna esimene kirik Kuusikule kruusamäe otsa. Asja sellest ehitusest aga ei saanud: ükskõik kui palju ehitajad ka ei pingutanud, töö edenes visalt. Lõpuks said ehitajad aru, et see koht pole Jumalale meelepärane. Proovisid siis kirikut Raikkülasse ehitada, kutsusid mungadki appi. Töö ikka ei edenenud. Mungad palusid öö otsa kiriku müüridel, kuid seegi ei aidanud. Jätsid siis mehed töö katki ja pöördusid nõu saamiseks targa poole. See käskis härjad vankri ette rakendada ja lasta neil ise kivikoormaga astuma hakata. Kus härjad seisma jäävad, seal ongi õige kiriku ehitamise koht. Härjad möödusid Rapla mõisast, sammusid üle jõe ja peatusid hiiepuu all. Nii otsustatigi kirik Rapla jõe äärde rajada.

Rapla vana kiriku ehitajateks on peetud Padise kloostri tsistertslasi 13. sajandi teisel poolel. Rapla kirik oli pikk ühelööviline hoone, mille idaosas paiknes natuke kitsam kooriosa. Koor oli võlvitud mõneti omapärasel moel: altari kohal kõrgus baldahhiini meenutav kaar, ülejäänud ruumiosa kattis ristvõlv. Koori idaseinas asus kolmikaken.

Et Rapla kirik põles Põhjasõjas müürideni maha, toimus 1738. aastal põhjalik renoveerimine. Tõenäoliselt ehitati siis ka esimene käärkamber. Rapla vanal kirikul oli puust kellatorn. Pärast selle lagunemist ehitati 1795.aastal uus kivist torn, mis oli ühtlasi kirikuaia väravaks.

19. sajandi lõpul jäi kirik Rapla Maarja-Magdaleena kogudusele väikseks, muutus varisemiohtlikuks, ja lammutati. Uue kiriku ehituse algatajaks oli õpetaja Carl Eduard Malm. Moodustati ehituskomitee, kuhu kuulusid kiriku eestseisjad, kohalike valdade esindajad, arhitekt Friedrich Axel von Howen ja ehitusmeister Karl-Rudolf Valdes. Kirikule pandi nurgakivi 1899. aastal. projekti autoriks oli Rudolf von Engelhardt. Arhitekt Howen muutis aga projekti ja nii erineb tegelikult valminud kirik esialgsest kavandist.