Se você não quiser excluir o conteúdo de um atalho de pasta, clique com o botão direito do mouse, acesse propriedades e exclua o destino. Isso deve deixar você com um novo atalho que vai para o meu computador. Então você pode excluir com segurança aquele novo, pois não está apontando para nenhum conteúdo.