В парке кроме разнообразной растительности с раннего периода создавались небольшие архитектурные сооружения и дополнительные элементы благоустройства. Подобные парковые объекты проектировались Джузеппе Бернардацци до 1840 г, но далеко не все разработки были воплощены при жизни авторов.
В 1823 году на площадке над гротом, где сегодня находится скульптура Демона, братьями Бернардацци была создана первая ресторация, ставшая их первым проектом на КМВ. Образцами малых форм, существующих со времени закладки парка, были мостики, о которых уже упоминалось выше. Первые пять из них строились по проектам и при участии братьев Бернардацци. В связи с частыми дождями и сильными наводнениями мостики приходилось периодически обновлять.
Вплоть до середины XIX века Нижний парк назывался Публичным садом. За этим садом был закреплен военно-рабочий инвалидный отряд КМВ. В его задачи входили уход за территорией и растениями, охрана и ремонтные работы. Благоустраивали парк ученые садовники и садовые ученики. История сохранила имя одного из них — ученого «плантера» Людвига Джерсея, работавшего на КМВ в 1835—1838 годы.