Pode ser armazenamento local. Eu pensei que o Firefox avisa quando um site quer usar o armazenamento local. Se um site bancário fizer isso para armazenar uma sessão de login, isso seria uma má prática, então não acho que isso é o que está acontecendo. No entanto, você pode verificar o armazenamento local com a seguinte extensão do Firebug: link
Além disso, existem cookies Flash, que talvez não sejam excluídos pelo seu navegador. Você pode precisar de outro addon para isso.
Depois, há maneiras de tirar impressões digitais do seu computador. Existem scripts que podem ver quais plugins e fontes você instalou. Isso, além de algumas outras configurações, geralmente é uma boa maneira de identificá-lo com exclusividade, juntamente com o seu endereço IP.
Ainda assim, ficaria louco se meu banco usasse isso para que eu fizesse login na minha conta. Usar essas técnicas é bom para lojas virtuais, que querem acompanhá-lo. Mais do que isso e é um problema de segurança.
NB: ao ler a pergunta novamente, vejo que esta é apenas uma medida extra para identificar o computador, não para permitir que o usuário faça o login. Isso só tornará as coisas mais seguras se você for avisado quando alguém tentar fazer o login de outro computador, por e-mail, com um aviso após o login em um computador conhecido.