O modo de transferência "Binário" do FTP copia os arquivos exatamente, byte por byte. Simples e direto.
Ao trazer arquivos de texto entre diferentes sistemas operacionais, porém, isso pode não ser o que você deseja - sistemas operacionais diferentes usam códigos diferentes para representar quebras de linha. O modo "ASCII" existe para esse fim: converte automaticamente todas as terminações de linha do formato do sistema de origem para o de destino.
Não tenho certeza sobre "Automático", mas imagino que a extensão do arquivo ou algo semelhante decida se é um arquivo de texto e tente adivinhar o modo apropriado.
O modo que você deseja depende exatamente do que está fazendo com os arquivos ... se você apenas os estiver copiando para fazer backup deles, provavelmente desejará copiar no modo binário para que sejam exatamente iguais quando depois você os restaura no servidor Windows novamente. Se eles precisarem ser usados como arquivos de texto (talvez como arquivos de configuração para um programa de plataforma cruzada?) Dos dois lados, convém usar o modo ASCII para convertê-los.
EDIT: Até onde eu sei, os arquivos FTP do Windows para o Linux nunca devem resultar no desaparecimento de quebras de linha ... no entanto , se você copiá-los no modo ASCII e trazê-los de volta ao servidor Windows no modo binário, o Linux finais de linha no estilo podem não ser reconhecidos na caixa do Windows. (O bloco de notas não os verá; o Wordpad irá; YMMV com outro software.)
(Hoje, essa conveniência - converter as terminações de linha automaticamente - pode parecer estranha em um protocolo básico como o FTP. Quando o FTP foi inventado, porém, o envio de arquivos de texto era a norma, e um dos objetivos do protocolo era isso o mais fácil possível.)