Geralmente, é impossível dizer quais configurações produzirão a melhor saída para uma determinada situação, sem simplesmente tentar várias configurações. A maioria dos codificadores (nunca usei o Flash Media Live Encoder especificamente) possui várias configurações que podem ser ajustadas em uma taxa de bits, taxa de quadros e tamanho de quadro específicos que afetarão o resultado final. Algumas configurações terão melhores resultados para alguns tipos de vídeo do que outras.
Meu melhor conselho, sem saber nada sobre o seu software específico, é tentar várias configurações e comparar os resultados. Você pode codificar o mesmo clib de 10 a 30 segundos (provavelmente com muito movimento, já que essa é uma das suas principais preocupações) com várias configurações e comparar os resultados.
Outra coisa que eu sugiro é diminuir a taxa de bits do áudio, para que você tenha um pouco mais de largura de banda de vídeo. Embora essa seja uma boa ideia, também pode depender muito de como é o fluxo de áudio. Se for um videoclipe, provavelmente você deseja proteger sua largura de banda de áudio com muita inveja. Se for uma entrevista (improvável, pois você está falando de muito movimento, mas quem sabe?), Provavelmente você pode se safar com uma largura de banda de áudio muito baixa.