Como você está trabalhando com uma taxa de amostragem fixa, o comprimento da sua FFT (que exigirá que sua janela tenha a mesma largura) aumentará sua resolução de frequência. O benefício de ter uma resolução de frequência mais fina é duplo: o aparente é que você obtém uma resolução de frequência mais fina, para poder distinguir dois sinais com frequência muito próxima. A segunda é que, com uma resolução de frequência mais alta, seu nível de ruído na FFT será menor. O ruído no seu sistema tem uma potência fixa, não relacionada ao número de pontos da sua FFT, e essa energia é distribuída uniformemente (se estamos falando de ruído branco) a todos os seus componentes de frequência. Assim, ter mais componentes de frequência significa que a contribuição do ruído individual de suas caixas de frequência será reduzida, enquanto o ruído integrado total permanecerá o mesmo, o que resulta em um piso com menos ruído. Isso permitirá distinguir uma faixa dinâmica mais alta.
No entanto, existem desvantagens em usar uma FFT mais longa. O primeiro é que você precisará de mais poder de processamento. O FFT é um algoritmo O (NlogN), em que N é o número de pontos. Embora possa não ser tão dramático quanto o DFT ingênuo, o aumento de N começará a sangrar seu processador, especialmente se você estiver trabalhando nos limites de um sistema incorporado. Em segundo lugar, quando você aumenta N, obtém resolução de frequência enquanto perde a resolução de tempo. Com um N maior, é necessário coletar mais amostras para chegar ao resultado no domínio da frequência, o que significa que é necessário coletar amostras por mais tempo. Você poderá detectar uma faixa dinâmica mais alta e uma resolução de frequência mais fina, mas se estiver procurando por spurs, terá uma ideia menos clara sobre QUANDO esse spur ocorreu exatamente.
O tipo de janela que você deve usar é um assunto totalmente diferente, que não sou informado para lhe dar uma resposta sobre qual é a melhor. No entanto, janelas diferentes têm características de saída diferentes, das quais a maioria (se não todas) é reversível após o processamento do resultado da FFT. Algumas janelas podem fazer com que seus componentes de frequência sangram para os compartimentos laterais (se não me engano, a janela Hanning faz com que seus componentes apareçam em três compartimentos). Isso é completamente dependente da natureza do resultado que você está tentando obter, por isso faria algumas pesquisas (ou algumas simulações) para chegar a qual delas é a melhor para sua aplicação específica.