В конце XVIII века, после масштабного переселения в Солдатскую слободу окрестных солдат, мещан и купцов, было решено построить в той же слободе, возле нынешнего Центрального рынка (в те времена базара, а впоследствии Старого базара) храм Рождества Пресвятой Богородицы. Храм был заложен 20 февраля 1781 года, а открыт 5 сентября 1781 года. И начало строительства, и готовый храм освящал протоиерей Иоанн Андреев. Однако, 27 декабря 1791 года от удара молнии храм сгорел.
Тогдашний городской голова — купец М. П. Наумов ходатайствует перед митрополитом Гавриилом — главой Екатеринославской епархии, курировавшей в то время территорию нынешнего Ростова, о строительстве новой церкви. И в 1795 году на том же месте строится церковь Рождества Пресвятой Богородицы, имеющая статус купеческой. На её территории размещается ещё одна, так называемая тёплая церковь Трёх Святителей. В 1822 году указом Святейшего Синода церковь становится соборной.
В связи с быстрым ростом населения города, в 1854 году был высочайше утверждён проект новой каменной церкви вместо пришедшей в ветхость каменной с деревянными куполами соборной церкви.
Собор был построен в период с 1854 по 1860 год по типовому проекту архитектора К. А. Тона и внешне схож с другими храмами, построенным по его проектам: храмом Христа Спасителя в Москве, несохранившимися до наших дней Введенским храмом Семеновского полка в Санкт-Петербурге и Святодуховским кафедральным собором в Петрозаводске. Непосредственную «посадку» храма на местности выполнил архитектор А. С. Кутепов.
Главным попечителем строительства являлся церковный староста Константин Михайлов-Нефедов. На средства потомственного почётного гражданина Ростова И. С. Панченко были расписаны стены собора, приобретены иконы, изготовлена дорогая церковная ограда и установлены ценные кресты на купола.
В 1887 году построена четырёхъярусная колокольня (см. раздел «Колокольня»).
В 1937 году собор был закрыт, и на его территории разместился зоопарк, а впоследствии складские помещения. В 40-е годы XX века были разрушены верхние ярусы колокольни.
Снова собор открыт в 1942 году, в условиях оккупации. В 1950 году в соборе был произведен ремонт и восстановлены росписи, в 1988 году проведена реконструкция внутреннего убранства храма.
В 1999 году, к 250-летию города Ростова, восстановлена колокольня в её первоначальном виде.
