Sim, você pode excluir manualmente tudo o que está nessa pasta; eu fiz isso como manutenção regular por muitos anos; alguns arquivos ou pastas podem ser bloqueados se um programa estiver aberto e usá-los, apenas pule-os durante o processo de exclusão.
Eu mantenho um atalho para essa pasta na minha área de trabalho ou preso ao meu jumplist.
É mais rápido e completo do que usar o software para fazer isso.
Algumas pastas e arquivos serão replicados pelo Windows ou outros programas logo após a exclusão ou reinicialização.