Se você fornecer informações adicionais, talvez seja mais fácil ajudá-lo.
Como é um disco removível, presumo que seja um dispositivo conectável por USB, por ex. disco rígido externo, memory stick ou algo assim.
Por que iria aparecer quando você está desligando eu não tenho idéia, ou por que você iria querer isso.
As primeiras etapas para solucionar esse problema seriam tentar conectar o dispositivo a outra porta (se aplicável), reinicializar o computador, verificar se o dispositivo funciona em outro sistema e assim por diante. Este pode ser o caso de um dispositivo com falha, porta ou limitação no Windows.