Realmente depende do que você está fazendo. Em geral, a velocidade na qual você pode abrir um arquivo para leitura será melhor do que a velocidade na qual você pode estabelecer uma conexão de rede. Portanto, para operações muito simples, o sistema de arquivos é definitivamente mais rápido. O sistema de arquivos provavelmente também superará um RDBMS para taxa de transferência de leitura bruta, pois há menos sobrecarga. De fato, se você pensar bem, o banco de dados nunca poderá ser mais rápido do que o sistema de arquivos em que se baseia em termos de taxa de transferência bruta.
Para operações muito complexas, é provável que o sistema de arquivos seja muito lento. Por exemplo:
Leia 10 linhas desse arquivo de 1 bilhão de linhas e pesquise as linhas correspondentes nesse outro arquivo. Tenho pena de você se tiver que fazer isso. Um bom servidor de banco de dados, no entanto, possui estratégias para fazer isso rápido e bem, para que você não esteja reinventando a roda.
Além disso, você realmente precisa descobrir o que está fazendo. Quais dados você está armazenando? Como você vai transformá-lo? Se forem 100k arquivos de imagem, sua solução será muito diferente do que se for um diretório para 100k pessoas. (Talvez LDAP? Ou um banco de dados SQL? Depende do que você está fazendo, talvez.) A chave aqui é escolher as ferramentas que correspondem ao que você está fazendo e que oferecem espaço para adicionar mais usos, em vez do que parecer mais rápido para alguns. caso de uso bastante abstrato. Os bancos de dados são ferramentas maravilhosas, mas você não pode obter uma boa resposta para uma pergunta como essa.
Finalmente, a otimização prematura é a raiz de todo mal. Escolha ferramentas úteis agora e descubra o resto mais tarde.