Os dispositivos portáteis (como telefones e reprodutores de mídia) não precisam nem podem ser ejetados antes da remoção. É por isso que você não verá a opção "Remover com segurança" no menu da bandeja. Você pode encontrar este artigo útil.
A informação relevante do artigo é que o Windows oferece tratamento especial aos dispositivos portáteis. Eles não precisam ser ejetados / desmontados. Se isso faz você se sentir melhor, no entanto, olhe para as suas notificações (se não for Android 4.4.2 YMMV). Você verá "USB conectado" como "Mídia de sincronização (MTP)". Toque nele e escolha "Carregar telefone". O Windows não vê mais seu telefone como um dispositivo portátil.