Vá para C:\Program Files\Windows Live\Messenger
e encontre msnmsgr.exe
. Clique com o botão direito e vá para properties
. Vá para a guia de compatibilidade e marque "Executar no modo de compatibilidade para:" e selecione "Windows Vista". O Messenger agora deve ser exibido corretamente e agir como você deseja.
Se desmarcado, ele permanecerá na barra de tarefas, mesmo quando você tiver solicitado a saída.