По доласку у Шабац и његовом постављању за нахијског кнеза, Јеврем Обреновић, као човек склон напретку и развоју, уочава дотрајалост старе српске православне цркве. Одлучује да се гради нова црква. Градња цркве посвећена светом Петру и Павлу започета 1827. године, а завршена септембра 1830. године. Црква је изграђена на најлепшем месту у граду, у самом центру. Са мањим изменама и поправкама због рушења у Првом светском рату, сачувана је до данас. Унутрашњост цркве првобитно је осликао Рус Андреј Биценко. Уметнички вредан иконостас израдио је у периоду до 1853. до 1855. године Павле Симић. У истом периоду декорацију цркве радио је Јован Клајић. У бомбардовању 1914. године иконостас је оштећен, па су поједини његови делови замењени радовима шабачког сликара Стевана Чалића, тридесетих година XX века, када је, као и касније, мењан и допуњаван живопис.
У порти шабачке православне цркве, изнад спомен костурнице, достојанствено стоји споменик подигнут у част изгинулима у Балканским и Првом светском рату. Дело је вајара Динчића а откривен је 1934. године. Споменик је сведочанство покољењима о страдањима која је Шабац, због свог мучеништва назван „Српски Верден“, преживео почетком XX века.