Como você pediu uma solução simétrica:
Aconselho o uso de AES como o algoritmo de criptografia simétrica. No Ubuntu você pode usar aespipe (deve estar no repositório oficial) ou AES Crypt . Isso deixa você com a tarefa de gerenciar sua (s) chave (s) secreta (s). Se você puder armazená-los localmente, tudo estará bem.
Se você quiser armazenar suas chaves secretas criptografadas, eu usaria uma ferramenta assimétrica como o GPG, como SvenW sugeriu. Como o GPG pode usar o AES como backend simétrico, você não precisa fazer o material do AES sozinho. Apenas deixe o GPG fazer isso.