Поруч із садибою Харитоненків католицькою громадою Сум у 1900 році був отриманий дозвіл на будівництво костьолу. Труднощі, що виникли при цьому, були успішно подолані завдяки втручанню П. І. Харитоненка, який, будучи православним, лояльно ставився до представників інших конфесій. У зв’язку з причинами матеріального характеру будівництво костьолу велося повільно і було завершено тільки в 1911 році. Після 1917 року служби в храмі відбувалися з перервами до 1932 року, відновилися в період німецько-фашистської окупації, коли всі церкви Сум були відкриті. Після війни костьол знову був закритий, відродження сумської римо-католицької громади і храму почалося в 1991 році.
У нинішньому будинку Обласної споживчої спілки, напроти костьолу, до 1917 р. містилося чотирикласне міське чоловіче училище, засноване в Сумах у 1905 році і перейменоване у 1912 на вище початкове. У навчальних закладах подібного типу отримували освіту діти ремісників, дрібних службовців і купців. Навчалися в чотирикласних міських училищах протягом 6 років, тому що курси першого і другого класу тривали по два роки.
Праворуч від будинку училища розташована садиба чоловічої Олександрівської гімназії з трьома будівлями, що збереглися донині. У 1884-1885 роках в архітектурних формах неоготики був побудований пансіон (гуртожиток) гімназії. За ним був розміщений власне навчальний корпус, зведений раніше, у 1873 році і, нарешті, ближче до червоної лінії вулиці, побудований гімназичний лазарет.
Серед попечителів гімназії значилися найбільші землевласники повіту: морський офіцер Веніамін Андрійович Савич – представник ще одного слобідсько-українського дворянського роду, який активно займався добродійністю і маєтність якого була в Біловодах; передостанній до революції власник Хотіні, граф Павло Сергійович Строганов (його батько заснував знамениту школу підготовки художників декоративно-вжиткового мистецтва – Строганівське училище в Москві). Попечителями гімназії свого часу були також М. Д. Кондратьєв і П. І. Харитоненко. Нині в будинку міститься сумська класична гімназія.
Коли на початку ХХ століття виникла необхідність у відкритті в Сумах Другої жіночої гімназії, місце для неї вибрали поруч з Олександрівською чоловічою: наймали частину приміщень парафіяльного училища в лютеранській (німецькій) молитовні. Її будинок, у якому в період німецької окупації був розміщений табір військовополонених, сильно постраждав і був відновлений без збереження первісного архітектурного вигляду. Нині там міститься середня школа № 8.
Останній дореволюційний середній навчальний заклад Сум був відкритий до 300-річчя династії Романових, у 1913 році. Це комерційне училище на Засумці, нині – технікум харчової промисловості Національного університету харчових технологій.