Desde abril de 2010, o Btrfs ainda está em desenvolvimento e não está pronto para uso em produção (na verdade, não está - fui mordido experimentando o kernel 2.6.32). O btrfs em termos de recursos contém alguns, mas não todos, os recursos do ZFS. O mais notável é a falta de duplicação de RAID-Z e de dados.
O que funciona com o btrfs é captura instantânea, cópia na gravação, soma de verificação e uso de vários discos como um único volume. O GNU cp recentemente obteve uma função "reflink" para copiar arquivos como duplicados de copiar na gravação.
O ZFS-FUSE parece mais estável que o btrfs; portanto, se você optar pelo Linux, essa poderá ser uma opção ( http://zfs-fuse.net/ ). A maioria dos recursos do Solaris ZFS é implementada. No entanto, não é possível encontrar benchmarks de desempenho atualizados.
Para uma solução sólida, eu ainda diria que vá com Linux e XFS. Se você precisar de snapshots, adicione LVM2. Se você precisar de Software-RAID, adicione mdadm.