Dê uma olhada no Yubikey de Yubico; parece que pode ser o que você está procurando.
Um Yubikey conectado a um MacBook http://yubico.com/img/finger_key.jpg
http://yubico.com/products/yubikey/
Sua configuração padrão (ou seja, projetada) deve ser usada como um bloco único para autenticação on-line de dois fatores, mas também possui um modo de "senha estática" que produzirá (o mesmo) 64 caracteres pseudo-aleatórios quando um pouco um círculo capacitivo verde é tocado. Funciona como um teclado USB, por isso é universal e funciona até offline. A senha estática da sequência aleatória pode ser alterada a qualquer momento.
Um pouco mais de 30 $ e chega em um envelope regular de 30 gramas (que eu achei muito legal para ser verdade) e em pouco tempo.
Honestamente, todos os truques para manter um arquivo criptografado em uma chave USB são ao mesmo tempo um enorme aborrecimento e, principalmente, desnecessários. Tudo o que você precisa é de uma senha com entropia razoável que você não possa adivinhar com facilidade ou força bruta. Digite Yubikey.
Estou desenvolvendo alguns aplicativos de autenticação online OTP com sua API; é bem legal, na verdade. Também posso garantir sua resistência física.
Esclarecimento : ofereci isso como uma alternativa ao armazenamento de senhas on-line, principalmente porque é baseado em API e pode ser usado on-line. No entanto, também pode funcionar como um substituto para várias senhas, se você se sentir confortável com isso.