Urodził się na Podolu. W Humaniu ukończył szkołę i wkrótce został przyjęty na Uniwersytet w Wilnie. Tamże w 1828 r. pozyskał stopień doktora i stał się asystentem Jędrzeja Śniadeckiego w klinice chorób wewnętrznych.

 

W 1840 r. po aresztowaniu polskiego patrioty Szymona Konarskiego, którego ukrywał, przez rok przebywał w więzieniu i tylko dzięki wstawiennictwu wpływowych, dawnych pacjentów zawdzięczał, że wyszedł na wolność. Od grudnia 1841 r. przebywał w Petersburgu. Działalność naukową porzucił na rzecz praktyki lekarskiej. Był dobrym fachowcem i szybko zyskiwał sobie sławę. W 1848 r. został nawet nadwornym lekarzem córki Mikołaja I.

 

W 1862 r. reaktywowano UW pod nazwą Szkoła Główna. Józef Mianowski został jej rektorem.

 

Dowodzenie Szkołą Główną w czasach Powstania Styczniowego było niesłychanie trudne, ale rektor Mianowski zadanie to wypełnił znakomicie. Pomagały mu w tym z jednej strony wrodzony takt i znajomości z wpływowymi osobami, a z drugiej strony głęboki patriotyzm. Pod rządami Mianowskiego uczelnia zachowała polski charakter.

 

W 1869 r. Szkołę Główną rozwiązano, a w jej miejsce carska władza powołała rosyjskojęzyczny uniwersytet. Dotychczasowy rektor wyjechał do Włoch i tam zmarł.

 

Wdzięczni wychowankowie Szkoły Głównej, doceniając postawę swego rektora, w 1881 r. powołali do życia instytucję naukową „Kasa im. Mianowskiego”, fundującą stypendia dla wyróżniających się studentów.