In Klein-Sinaai stond vroeger de invloedrijke cisterciënzerabdij van Boudelo. Deze monniken van Boudelo bouwden in 1698, 120 jaar na de vernieling van de abdij, het eerste parochiekerkje in Klein-Sinaai. Na de sloping van dit kerkje werd vanaf 1822 een nieuwe neogotische kerk gebouwd in het dorpscentrum, naar een ontwerp van architect J. De Somme-Servais.
Qua interieur vallen vooral de neogotische altaren en koorbanken, de spreekstoel in rococostijl en het schilderij van O.L.V Onbevlekt Ontvangen op. Een ander bijzonder kenmerk is dat het koor naar het westen is gericht: in de meeste kerken is dit naar het oosten.
De huidige Kerk O.L.V Onbevlekt Ontvangen is één van de weinige kerken die nog omgeven zijn door een kerkhof.
