Para concatenar arquivos que você usa
cat file1 file2 file3 ...
Para obter uma lista dos nomes de arquivos citados, classificados por hora, primeiro os mais novos, use
ls -t
Juntando tudo,
cat $(ls -t) > outputfile
Você pode dar alguns argumentos para ls(por exemplo, *.html).
Mas se você tiver nomes de arquivos com espaços, isso não funcionará. My file.htmlserá assumido como sendo dois nomes de arquivos: Mye file.html. Você pode lscitar os nomes dos arquivos e, em seguida xargs, usar quem entende a citação para passar os argumentos cat.
ls -tQ | xargs cat
Quanto à sua segunda pergunta, filtrar partes dos arquivos não é difícil, mas depende do que exatamente você deseja remover. Quais são os "cabeçalhos redundantes"?
cat $(ls -t) > outputfile, caso contrário,catrejeita os nomes dos arquivos citados