Há uma discussão sobre isso no r-sig-geo . Para uma resposta definitiva, você deve perguntar lá, porque existem pessoas que conhecem as idéias da R. espacial.
Mas você também pode fazer isso em aplicativos de área de trabalho GIS (exportar a forma usando o comando writeOGR de rgdal ou writePolyShape () de maptools) como QuantumGIS, GRASS ou SAGA.
Para o QuantumGIS, use as geometrias Vector / Geometry Tools / Simplify (eu testei e não preservo a topologia, mas aplicado ao arquivo de shapefile admin1 da Romênia, fica bem com 2000 nós).
Para o GRASS, use v.generalize (leia o manual para obter informações sobre os algoritmos, existem alguns).
Para o SAGA, você deve primeiro converter o polígono em linha (Formas - Linhas / Converter polígonos em linhas), depois simplificar as linhas (Formas Linhas / Simplificação de linha) e, finalmente, converter linhas em polígonos (Formas - Polígonos / Converter linhas em polígonos). Eu testei isso e os resultados têm a topologia preservada.
Felicidades e boa sorte,