В конце XVIII в. на углу улиц Радищева и Марата был построен объект культурного наследия регионального значения «Дом казначея». Это небольшой двухэтажный каменный дом в стиле классицизма, ставший одним из первых каменных гражданских строений Курска.
В 1782 году Курск получил первый градостроительный план, утверждённый Екатериной II. По новому плану деревянные здания в центральной части города заменялись на каменные, новые дома строились по красной линии градостроительного плана фасадом на улицу.
В здании изначально проживал чиновник, занимавшийся учетом прихода и расхода денежных средств города, то есть казначей. И поэтому в народной памяти дом так и остался как «Дом казначея».
В постреволюционный период в здании размещалось Курское губернское отделение военной цензуры. После окончания Великой Отечественной войны дом стал жилым. Старожилы помнят, как в трудные послевоенные годы в подвальной части небольшого двухэтажного каменного дома помещалась керосиновая лавка. В наши дни в здании располагаются офисы и магазины.
