Como o arquivo web.config é um arquivo xml, você pode abrir o web.config usando a classe xmldocument. Obtenha o nó do arquivo xml que deseja atualizar e salve o arquivo xml.
aqui está o URL que explica com mais detalhes como você pode atualizar o arquivo web.config programaticamente.
http://patelshailesh.com/index.php/update-web-config-programmatically
Observação: se você fizer qualquer alteração no web.config, o ASP.NET detecta essas alterações e recarrega seu aplicativo (reciclar pool de aplicativos) e o efeito disso é que os dados mantidos na sessão, aplicativo e cache serão perdidos (assumindo o estado da sessão é InProc e não está usando um servidor de estado ou banco de dados).