Sistemas de arquivos modernos usam várias técnicas para reduzir a fragmentação de arquivos e estruturas de diretórios. Essas técnicas geralmente permitem uma quantidade notável de fragmentação de espaço livre (à medida que as lacunas são deliberadamente deixadas para permitir que os arquivos cresçam mais tarde). Como a quantidade de espaço livre reduz esse back-fire, uma vez que fica mais difícil para arquivos novos ou em crescimento, os arquivos podem ser gravados de maneira relativamente não fragmentada.
A desfragmentação ajuda (e é por isso que o Windows Vista e o 7 executam um processo de desfragmentação "leve" regularmente em segundo plano) especialmente com discos giratórios se o desfragmentador for brilhante o suficiente para tentar manter arquivos / estruturas relacionadas fisicamente próximos na unidade, mas não remover completamente o problema em potencial (com espaço limitado para brincar, os arquivos novos / em crescimento começarão a se fragmentar rapidamente) e os processos de desfragmentação não poderão funcionar efetivamente se o espaço for muito baixo.
Então, sim, deixar o espaço livre ficar muito baixo pode ter um impacto no desempenho. É provável que esse impacto seja perceptível em sua interação cotidiana com o sistema - depende do que você está fazendo com a máquina e de como você é sensível a certas diferenças nos tempos de resposta.
Ao contrário da crença popular, a fragmentação também pode afetar os SSDs, embora em uma extensão muito menor do que os drives baseados em discos giratórios + cabeças móveis. Sua latência de posição de acesso quase zero em comparação com discos giratórios remove muito do efeito que a fragmentação tem, mas a leitura de um arquivo que está mal fragmentado pode resultar em muitas pequenas operações de leitura que ultrapassam as otimizações de leitura antecipada e podem resultar em arquivos fragmentados em muitas pequenas gravações em partes desesperadas do SSD que agravam ineficiências causadas por SSDs tendo que manipular um bloco de cada vez (onde o tamanho desses blocos pode ser muito maior do que o 4Kbyte ou 512 bytes bloqueia o seu sistema operacional nativamente).