Після смерті славетного тенора постало питання про створення музею у батьківській хаті співака. Тому історія музею бере свій початок від 11 березня 1994 р., коли з’явилася Постанова Кабінету Міністрів України за № 160 "Про увічнення пам'яті І. С. Козловського". Музей було розташовано у батьківській хаті, де народився та провів своє дитинство Іван Семенович, куди неодноразово повертався. Тут він мав намір жити, зберігаючи всю батьківщину. Хатина призначалася музичному світу видатного співака з можливістю прослуховування чи виконання музичних творів, свідчень сходжень його на музичний олімп. "Меморіальний музей-садиба І. С. Козловського" є архітектурно-етнографічною та історико-культурною цінністю.

   З 1995 р. музей почав наповнюватися експонатами та зустрічати своїх перших відвідувачів. Донька Івана Семеновича Анастасія Іванівна передала музею особисті речі маестро, листівки, фото та записи на платівках. У зборі матеріалів, експонатів музею активну участь брали жителі с. Мар'янівка, які передавали предмети побуту кінця ХІХ – початку ХХ сторіч. Видатна заслуга в організації та створенні музею належала Павлу Петровичу Бохняку (директору Мар'янівської ДМШ).

 До комплексу музею також входить парк-усипальниця із перехрестям алей, спланований Іваном Семеновичем разом з архітектором Яковом Друцьким у 1960-тих роках.

​