Губернская гимназия была открыта в Херсоне при губернаторе И.X.Калагеоргии 12 марта 1815 года и состояла из 4-х классов, которые являлись продолжением классов уездного училища, открытого в 1813 году. Уездное трехклассное с приготовительным отделением училище и губернская мужская гимназия помещались тогда на углу улиц Потемкинской и Суворовской.
Постепенно в гимназии открылись и следующие классы: в 1816 году-пятый, в 1817-шестой и в 1818-последний седьмой класс. Первым директором гимназии был директор училищ Херсонской губернии В.Е.Якубовский. Открытие новых классов гимназии потребовало расширения помещений и потому, в 1818 году, гимназия на время перестройки своего здания наняла для себя дом, принадлежащий генерал-майору Лобри (где впоследствии разместилось Дворянское собрание), на углу улиц Потемкинской и Эрделевской.
В 1822 году гимназия вернулась на Суворовскую, где был окончен ремонт и пристройки новых помещений. На содержание гимназии изначально было выделено 5,8 тыс. руб. штатных и сверхштатных 2,4 тыс. руб. ассигнациями. К этим суммам в разное время прибавлялись доходы от найма зала для Дворянского собрания, пожертвования в пользу гимназии в дни торжественных актов и тому подобное. В 1815 году учащихся было 16, в 1818 - 30, в 1824, 1825 и 1827 - по 32, в 1831 - 35 и в 1833-32 учащихся. С 1833 года Херсонская мужская гимназия, находившаяся до того времени в ведении училищного комитета Императорского Харьковского университета, подчинена была попечителю Одесского учебного округа.
14-го апреля 1834 года при гимназии был учрежден Благородный пансион, по 1846 год в пансионе помещались 5 казеннокоштных воспитанников, детей преимущественно училищных чиновников. С 1846 года был составлен новый штат пансиона на 30 воспитанников, из числа которых 25 обучались за свой счет с оплатой по 150 руб. в год, а с 1851 года штат доведен до 50 воспитанников. Но затем плата была повышена до 200 руб. в 1857 году и до 230 руб. в 1864 году. В 1861 году пансионеров было 71, в 1863 - 68; среди этих пансионеров было 12 воспитанников из дворян, которые содержались на проценты с 45.000 руб., ассигнованных губернским дворянством для указанной цели. К этому времени гимназия состояла из 7-ми классов, преобразованная в таковую по уставу 1828 года в 1835 году.
В 1861 году при 1-й мужской гимназии были открыты землемеро-таксаторские классы для подготовки частных землемеров и таксаторов. Новый этап в жизни гимназии начался с приходом на место директора Зиновия Васильевича Коленко (1861-1867 г.г.).
В 1863 году было построено новое здание гимназии по проекту архитектора Людвига Егоровича Тоннеса в западной части Соборной площади. Его строительство обошлось в 133.247 руб.
В сентябре 1864 года в новом здании начались занятия. В 1867 году, при содействии губернатора П.Н.Клушина, на частные пожертвования жителей Херсона в здании гимназии выстроена домовая церковь Св. Александра Невского в память «чудесного спасения жизни государя императора Александра II 4-го апреля 1866 года
