Dê uma olhada no Yubikey de Yubico; Parece que pode ser o que você está procurando.
Um Yubikey conectado a um MacBook http://yubico.com/img/finger_key.jpg
link
Sua configuração padrão (ou seja, projetada) deve ser usada como um pad de uso único para autenticação online de dois fatores, mas também possui um modo de "senha estática" que produzirá (o mesmo) 64 caracteres pseudo-aleatórios quando um pequeno círculo capacitativo verde é tocado. Funciona como um teclado USB, por isso é universal e funciona até mesmo offline. A senha estática da string aleatória pode ser alterada a qualquer momento.
Um pouco mais de 30 $ e chega em um envelope normal de 30 gramas (o que eu achei que era legal demais para ser verdade) e em nenhum momento.
Honestamente, todos os truques de manter um arquivo criptografado em uma chave USB são ao mesmo tempo um aborrecimento em grande escala e, principalmente, desnecessário. Tudo o que você precisa é de uma senha com entropia razoável que você não possa adivinhar com facilidade ou força bruta. Digite Yubikey.
Estou desenvolvendo alguns aplicativos de autenticação on-line OTP com sua API; é bem legal, na verdade. Eu posso garantir sua robustez física também.
Esclarecimento : ofereço isso como uma alternativa ao armazenamento de senhas on-line, especialmente porque é baseado em API e pode ser usado on-line. Porém, ele também poderia atuar como um substituto para várias senhas, se você se sentir confortável com isso.