Екатерининский острог, был построен в 1826 . Место для тюремного замка было выбрано неслучайно. 

На большой возвышенности, названной Солдатской горой, располагалось изначальное «сердце» Стародуба. Здесь в 1980-е годы археологи раскопали остатки оборонительных валов ещё домонгольского детинца, которые датируют концом 10 века.