No Visitor: guia de documentos comprovativos O GOV.UK possui cinco páginas de documentos obrigatórios ou recomendados. O primeiro dos recomendados é Documentos de viagem / passaportes anteriores, que mostram as viagens anteriores.
Talvez o seu passaporte antigo não contenha tal evidência ou você nunca procurará entrar no Reino Unido, mas, caso contrário, poderá tornar sua entrada mais tranquila.
Pessoalmente, encontrei passaportes antigos de outras pessoas de interesse para fins históricos e genealógicos. Por exemplo, alguns dos passaportes de minha mãe mencionam um nome do meio que ela nunca gostou - e conseguiram ser removidos de uma certidão de nascimento. (Desde então, encontrei outra certidão de nascimento que mostra esse nome do meio, juntamente com outros detalhes ligeiramente diferentes, mas tenho o link para provar que os dois certificados são para uma pessoa.)
Os selos de receita podem ter algum valor para os colecionadores (embora não sejam usados atualmente, costumavam ser).
Um dos vistos me deu o nome que eu estava procurando da embarcação que me transportou através do Atlântico (em uma época em que eu estava alheio a essas coisas).
Em resumo, mesmo que não lhe seja útil no momento, eles podem ser do interesse de outras pessoas, eventualmente. Então, para "O que devo fazer com o meu passaporte expirado?" Eu sugiro, "mantenha".
No entanto, isso nem sempre é possível. Por exemplo, David menciona:
Eu sou francês e não temos permissão para manter passaportes antigos.
... em uma pergunta em que parece que a retenção teria sido útil para o registro exigido dos detalhes anteriores do visto (um motivo para a retenção já mencionado por outros).