Juba kaugelt vaadates domineerib Pöide Maarja kirik ümbritseva tasase maastiku keskel ning mõjub oma massivsuses pigem linnuse kui jumalakojana. Pöide kiriku ajalugu ongi tihedalt seotud Saaremaa kindlustamisega keskajal. Saare idaosa kuulus Liivimaa ordule, kes oma valduste peamise tugipunktina rajas 13. saj, II poolel Pöidele linnuse. Viimsae lõunaküljel paiknes ka kabel; selle kahevõlvikulise pikihoone müüristik moodustab praeguse kiriku tuumiku. Omapärasena on jälgitavad sellest kabelist pärinevate romaanipäraste ümarkaarsete portaalide säilmed nii pikihoone põhja - ja lõunaküljel.

Oletatavasti 14. saj. I poolel rekonstrueeriti algkabel suurejooneliseks kihelkonnakirikuks. Nii idas kui läänes lisati kabelile üks võlvik - nii tekkis Pöide kiriku mõneti kummaline pikk ja vähe liigendatud põhiplaan. Ühtlasi kõrgendati ka algkabeli müüre. Töödel olid tegevad Muhu ja Karja kiriku meistrid. Neile osutavad rikkaliku kujundusega lõunakülje peaportaali vormid, samuti ka raiddetailid interjööris. Kooriruumi vitraazhaken

Hiljem, tõenäoliselt hiliskeskajal on läänevõlviku kohale ehitatud massiivne torn. Kirik põles välgulöögist 1940. a. Varemed on suudetud küll katustada, kuid põhiosas ootab kirik tänini taastamist.
Tulekahjus hävis ka ajalooline sisustus. Siiski on säilinud mitmed epitaafid ja hauaplaadid, mille hulgas põnevaimad on arhailised traoetsiaalsed reljeefidega kaetud kivid.