Краевой музей был основан в 1904 году коллекционером Фёдором Коваленко. В честь основателя музею и присвоили имя, однако при советской власти музей переименовали в честь Луначарского. Справедливость восторжествовала лишь в 1993 году. Сам основатель происходил из простой крестьянской семьи и некоторое время работал кассиром. Однако любовь к творчеству проявилась уже тогда: Коваленко начал скупать картины отечественных и зарубежных мастеров, гравюры и другие произведения искусства. Одновременно коллекционер завязал переписку с художниками из Петербурга и некоторых стран Европы.