Como costuma acontecer na computação, a resposta é (a) devido a circunstâncias históricas e à necessidade de manter a compatibilidade com versões anteriores e (b) porque alguns métodos são mais adequados para algumas tarefas do que outros.
Em (a) você precisa se lembrar de que o "drive Winchester" - eu tenho idade suficiente para lembrar que eles foram chamados assim - (o que o resto do mundo chama de 'disco rígido') existe apenas cerca de metade do tempo da computação eletrônica e, mesmo assim, ele não estava acessível à maioria dos usuários por esse período por razões de custo. O sistema de arquivos FAT funcionou bem em disquetes e também nos pequenos discos rígidos originais, pois era razoavelmente eficiente e exigia pouca sobrecarga. Uma vez que começou a ser usado - e seu uso se espalhou amplamente porque é simples de implementar - os fabricantes não puderam dizer a seus usuários que seus dados antigos eram subitamente inválidos.
Da mesma forma, para os usuários do Linux, digamos, um driver NTFS estável demorava muito tempo, portanto, manter os dispositivos formatados como FAT significava que eles poderiam ser lidos e gravados em vários sistemas.
Em (b) - pense nas diferenças entre um sistema que, digamos, armazena bilhões de registros de banco de dados baseados em texto e um que armazena arquivos de mídia com tamanho de DVD. Para o banco de dados, cada registro pode ser muito pequeno - talvez apenas 30 ou 40 bytes e certamente um sistema de arquivos que alocou todo um 'segmento' (no entanto, você deseja definir isso) de disco provavelmente desperdiçará espaço em disco. Não é assim com os DVDs - "segmentos" maiores (dentro da razão, obviamente) provavelmente são altamente eficientes em termos de espaço.
Sistemas de arquivos diferentes são projetados para diferentes propósitos.