Parece que tem algo a ver com o Desktop Windows Manager (dwm), o processo no Vista / 7 responsável pelos novos efeitos aerodinâmicos. Mas além disso eu não posso te dizer muito. Você instalou alguma coisa que possa tentar adicionar efeitos ao Windows?