Seu arquivo .ICO precisa ter uma camada de 256x256 para poder ser ampliada acima de 'medium' e não ter essa borda.
Essa camada pode ter que ser RGB / A também, mas eu não estou 100% nessa mão.
Veja algumas boas informações sobre as alterações nos ícones do Windows no Vista.