O coronel Antônio Marçal Nogueira de Barros, proprietário de vasto território na região, em 1870, congregou os fazendeiros locais para a construção de uma pousada no caminho entre Caconde e Casa Branca, junto ao rio Pardo. No mesmo ano, foi construída uma capela sob a invocação de São José.
Ao redor da capela formou-se um povoado, no território de Casa Branca, que os antigos chamavam de Cabeceiras do rio Pardo. O progresso justificou a criação, em 1874, da freguesia de São José do Rio Pardo (distrito), sendo anexada ao município de Caconde.
Novamente incorporado ao município de Casa Branca, foi em 1885, elevado à categoria de município, instalado no ano seguinte.
Os rio-pardenses, liderados pelos políticos republicanos da época, foram os primeiros a romperem os laços com a monarquia, antes mesmo do advento da República. O movimento foi dominado pelo Presidente da Província, mas, em 1891, já no período republicano, o Governador do Estado, Américo Brasiliense cognominou a localidade de “Cidade Livre do Rio Pardo”. Esta denominação foi, mais tarde, abandonada, voltando a São José do Rio Pardo.
Além da sua vocação republicana, São José do Rio Pardo foi uma região das mais produtivas do café, o “ouro verde”, e contava com dezenas de fazendas monocultoras que durante o século XIX usaram a mão de obra do escravo africano, que foi sistematicamente substituída pelo imigrante italiano, que após a “Quebra” da Bolsa de Nova Iorque adquiriram seus quinhões de terra que hoje compõe a geografia agropastoril do município.
No início do Século XX, São José do Rio Pardo acolheu grande quantidade de imigrantes, principalmente italianos. Também foi no município que Euclides da Cunha escreveu sua obra prima, Os Sertões, durante o período em que viveu e trabalhou no município, entre 1898 e 1901.