Vá para C:\Program Files\Windows Live\Messenger e encontre msnmsgr.exe . Clique com o botão direito e vá para properties . Vá para a guia de compatibilidade e marque "Executar no modo de compatibilidade para:" e selecione "Windows Vista". O Messenger agora deve ser exibido corretamente e agir como você deseja.
Se desmarcado, ele permanecerá na barra de tarefas, mesmo quando você tiver solicitado a saída.