A maioria das ferramentas de gerenciamento de configuração é realmente boa nisso. fantoche e Chef sendo dois dos mais populares, e radmind sendo o que eu uso.
A documentação da ferramenta específica fornecerá uma idéia de como implementar o gerenciamento de patches - ela varia de ferramenta para ferramenta.
Outras opções incluem um repositório centralizado yum / apt / qualquer que seja, e scripts caseiros para extrair patches em intervalos agendados (ou sob demanda), e também existem soluções comerciais de alguns dos principais fornecedores, alguns dos quais (como o RHN Satellite da RedHat ) são bastante excelente se você passar o tempo aprendendo como eles funcionam e realmente tirar proveito de suas capacidades.
Um item que ninguém apontou ainda que eu sinto que é importante notar é a homogeneidade - na medida do possível, torne os seus servidores engrenagens intercambiáveis executando o mesmo software. Isso simplifica bastante o gerenciamento de patches (os mesmos patches precisam ir a qualquer lugar) e o IMHO facilita muito a vida à medida que o ambiente cresce.