Ao executar o Windows Live Messenger no Windows 7, ele não será minimizado para o ícone da bandeja. Definir o aplicativo para o modo de compatibilidade do Windows Vista fará com que funcione.
Esta solução alternativa está bem descrita em muitos artigos, por exemplo
http://www.mydigitallife.info/2009/01/15/workaround-to-hide-and-minimize-windows-live-messenger-iconbutton-to-notification-area-system-tray-in-windows-7/
Como o modo de compatibilidade altera o comportamento de minimizar o Windows Live Messenger? Suponho que o Windows Live Messenger não verifique como está configurado, portanto, deve haver algo no lado do sistema operacional fazendo isso.
O Messenger verifica se está sendo executado no Windows 7 e altera seu comportamento quando está sendo executado no Windows 7.
Se você marcá-lo como sendo executado no modo de compatibilidade do Vista, ele não sabe que está no Windows 7 e, portanto, minimiza a bandeja, já que é a operação desejada do Vista.