Изредка Геня Каминский ходил с бабушкой на базар, находившийся на месте нынешнего зеленого сквера у монументального здания областной администрации (Дом Советов), куда мальчика нестерпимо тянуло красочное обилие лавок с широким ассортиментом различных детских игрушек. Обычно по пути бабушка обязательно посещала Александровскую часовню, стоявшую на Красной площади, где находилась икона Святого Благоверного князя Александра Невского. Сюда она постоянно заходила, чтобы помолиться у этой иконы в память своего мужа Александра Павловича Танкова, деда Гени.

Часовню-памятник решено было соорудить в Курске летом 1881 года по решению городской Думы в память трагической гибели от руки террориста императора Александра II. Это решение было принято согласно горячему желанию жителей города, и по открытой подписке куряне собрали 2571 рубль 34 копейки. Нашелся в городе даже человек, который пожертвовал для этой цели две тысячи штук кирпича.

Здание часовни было заложено 30 августа 1886 года в том месте, где располагалась известная в городе свечная лавка у гостиного двора. Это место примерно находилось в нынешней западной части площади, прилегающей к эстрадной сцене, обычно собираемой рабочими к праздничным дням у Дома связи, но несколько сдвинутой от осевой сцены на север.

Цоколь новенькой часовни был выложен белым камнем, оставшимся после постройки Каменного моста через реку Кур на Херсонской улице (ныне улица Дзержинского) и долго пролежавшим без употребления. Сооружение часовни-памятника обошлось в шесть тысяч рублей. Красивый иконостас и икона Александра Невского были пожертвованы для нее иконостасным мастером И.В. Терезой из Москвы.

2 сентября 1889 года было совершено торжественное освящение часовни. После поздней литургии, совершенной архиепископом Иустином в кафедральном Знаменском соборе, он в сопровождении протоиереев, иеромонахов направился в большой процессии крестного хода из мужского Знаменского монастыря к сооруженной на Красной площади часовне. Под гулкий звон колоколов люди несли знаменитую икону Знамения Божьей Матери, хоругви. У только что выстроенной Александровской часовни к этому времени собрались представители городского управления и множество курян.

После Октябрьской революции, согласно постановлению Совета Народных комиссаров, должны были быть снесены все памятники или мемориальные доски последним русским императорам. 12 апреля 1918 года СНК, в "ознаменование великого переворота, преобразившего Россию", принял подписанный В.И. Лениным декрет "О памятниках республики", в котором была поставлена задача "мобилизовать художественные силы... по выработке проектов памятников, долженствующих ознаменовать великие дни российской социалистической революции". В этом декрете говорилось не только о сносе царских памятников, но и о необходимости замены царских эмблем, гербов, надписей на улицах и площадях.

Курянам было жаль расстаться с красивой часовенкой на Красной площади. Кое-кто выдвинул наивную аргументацию, что часовня-памятник воздвигнута в память русских воинов, погибших в русско-турецкой войне 1877-1878 годов. Но ничто не помогло, и в конце двадцатых годов Александровская часовня была снесена.

А в 1924 году эта часовня, как яркая шкатулка, красовалась на площади, окрашенная в светло-зеленый цвет, с плавными золотыми дугами закомар, в которых сияли лики святых, с голубой шатровой кровлей, по которой пролегли золотые лучи, как бы исходившие от позолоченного креста, водруженного на золотую главку.

Часовня имела два входа. Южный был постоянно открыт, а северный распахивал двери только в церковные дни.

...Бабушка, торопливо крестясь, с внуком вступала на гладкую плиту, выложенную мрамором, на которой покоилось здание часовни, проходила мимо серых невысоких гранитных столбов, держащих тяжелую чугунную черную цепь ограды, и красивых тяжелых дубовых резных дверей внутрь здания. Подойдя к молчаливой монахине, она обычно покупала тонкую восковую свечу, ставила зажженную в высокий напольный бронзовый подсвечник и, недолго молясь, спешила к выходу, отправляясь с внуком к заветным купеческим лавкам. Сделав нужные покупки, бабушка с Геней радостные отправлялись домой. Геня обычно особенно был доволен походом, ибо бабушка обязательно что-либо ему покупала: громко стреляющий наганпугач, домино, электрический фонарик или картонную коробку с оловянными солдатиками, которых у него уже набралось с целый полк...