Permanecer conectado facilita a invasão de alguém na sua conta, pois eles podem farejar o cookie e usá-lo para fingir que estão conectados. O logout teoricamente faria com que o cookie fosse inútil.
No entanto, se alguém está na posição de cheirar seus pacotes, provavelmente você já está ferrado, já que eles poderiam simplesmente farejar o nome de usuário e senha enquanto você faz o login. Sites bem desenhados não terão este problema porque eles usarão um algoritmo de hash com um desafio e uma resposta, mas você ficaria surpreso com a quantidade de sites criados dessa maneira.
Então, basicamente, o logoff significa manter-se tecnicamente mais seguro, mas em um nível que não importa de qualquer maneira.
Se é o seu próprio computador particular que ninguém mais pode usar, basta deixar-se logado.