A área onde hoje é o município de São Francisco de Paula foi habitada por índios caáguas da tribo dos coroados. Com a extinção destes, a região passou a ser caminho dos tropeiros, que iam do Rio Grande do Sul a São Paulo.

O povoamento da cidade começou quando Pedro da Silva Chaves, capitão de ordenanças da região de cima da serra, doou uma área de terra para a fundação do povoado, que virou patrimônio de uma igreja construída no local. A esta igreja, o capitão batizaria de São Francisco de Paula, santo de sua devoção. O primeiro pároco foi o seu filho, o Pe. José da Silva Leal Leme, em 1762.

Em 1809, o povoado de Cima da Serra passou a pertencer ao município de Santo Antônio da Patrulha. Em 1852, o povoado foi elevado a freguesia de Cima da Serra, que virou município (São Francisco de Paula de Cima da Serra) em 1878.

A denominação viria a perder a alcunha Cima da Serra por volta de 1930, ficando apenas São Francisco de Paula. Entretanto, em 1889 o município foi extinto e anexado a Taquara do Mundo Novo (atual Taquara). No mesmo ano, o município foi reconstituído, sendo extinto novamente em 1892, e reanexado a Taquara. Finalmente, em 1903, mais uma emancipação, desta vez definitiva.

Até a década de 1940, o município de São Marcos e as localidades de Fazenda Souza, Vila Seca, Criúva e Vila Oliva pertenciam a São Francisco de Paula. A partir daí, passaram a pertencer a Caxias do Sul. Cambará do Sul, emancipada em 1963, e Jaquirana, emancipada em 1987, também pertenceram a São Chico, como é carinhosamente chamado o município de São Francisco de Paula.