Karantino metu daugelis muziejų, tarp jų – ir Alytaus – pas lankytoją atkeliauja į namus, atrasdamas naujus ar senus, tačiau užmirštus buvusius lobius. „Cerkvė, bažnyčia, dirbtuvės, internuotojų stovykla, vėl cerkvė, sandėlis, mašinų gamyklos klubas ir vėl bažnyčia“, – taip Alytaus šv. Kazimiero bažnyčios pastato istoriją trumpai pristato muziejininkai.
Šv. Kazimiero bažnyčios pastatas, kaip Alytaus karinės įgulos cerkvė, buvo pastatyta 1904 metais.
Pirmojo pasaulinio karo metais, Alytų užėmus Vokietijos armijai, cerkvė virto jos kariškiams skirta evangelikų liuteronų bažnyčia.
Po karo, šalia buvusiose kareivinėse įsikūrus Lietuvos didžiosios kunigaikštienės Birutės antrajam ulonų pulkui, cerkvė buvo pertvarkyta į filijinę Šv. Kazimiero bažnyčią.
4-ame dešimtmetyje nugriautas bažnyčios bokštas su kupolėliais.
Kaip pasakoja istorikas Vilmantas Dunderis, su bokšto nugriovimu susijusi linksma istorija: „Kai griovė bokštelį, į jį trenkė žaibas. Tuomet miesto stačiatikiai pradėjo kalbėti: „matot, net Dievas pyksta, kad jo namus griauna“, o katalikai savo ruožtu kalbėjo: „matot, net Dievui nepatinka pravoslaviškas bokštas“.
1939 m. pabaigoje, ulonų pulkui persikėlus į Tauragę, bažnyčia buvo uždaryta. Joje įsikūrė dirbtuvės, vėliau – internuotojų stovykla.
Apie 1941 m. stačiatikiai susigrąžino pastatą, vėl jame įrengė cerkvę.
Antrojo pasaulinio karo metais bažnyčia gan smarkiai nukentėjo.
Po karo maldos namai paversti sandėliu, vėliau – Alytaus mašinų gamyklos klubu. Buvo nugriautas antrasis bokštas, viršutinė centrinės navos dalis, pakeisti fasadai ir interjeras. Pastatas prarado sakraliniam pastatui būdingą vaizdą.
1990 m. pastatas grąžintas katalikams. Kiek vėliau pagal architekto Vytauto Jakučio ir konstruktoriaus Sauliaus Stulpino projektą, pradėta jo rekonstrukcija.
Nors visas senasis vidaus interjeras buvo sunaikintas, iki šių dienų yra išlikęs cerkvės ikonostasas.