Estou desenvolvendo o @mnmnc's comments , aqui.
O que você está vendo não é realmente o Linux em si, é o prompt de inicialização do GRUB. O GRUB é o carregador de boot comumente usado para Linux em x86 e arquiteturas compatíveis atualmente, mas não é a única maneira de inicializar o kernel do Linux. Antes do GRUB se tornar mainstream e estável, acredito que o LILO (o Li nux Lo ader) era o mais comum. Para o bootstrap do DOS (sim, isso era razoavelmente comum), seria usado LOADLIN. Tenho certeza de que houve outros também, mesmo se nos restringirmos à arquitetura x86 / IA-32.
Quando você instalou o Linux, a instalação colocou o GRUB em dois locais distintos. O gerenciador de inicialização simples é gravado diretamente no disco, e funcionalidades adicionais para ele (como exibir um menu sofisticado, a configuração que especifica as opções de menu disponíveis e o código que permite escolher entre elas) provavelmente entraram em /boot/grub em sua partição raiz do Linux. Como esses arquivos não estão mais disponíveis, você precisa inserir os comandos de inicialização manualmente. Daí o prompt grub> .
A correção (relativamente) simples, como foi apontada nos comentários da pergunta original, é usar a mídia de instalação do Windows para executar uma instalação de reparo. Isso sobrescreverá a parte do setor de inicialização do GRUB, para todos os efeitos, "desinstalando" o GRUB. O fato de o Windows não entender os carregadores de boot alternativos e, na maioria das vezes, simplesmente substituí-los sem nem mesmo solicitar, é um caso de falha comum quando configura dual boot (o caminho mais fácil que é sempre instalar o Windows primeiro, seguido por qualquer outro sistema operacional que se queira executar em uma configuração multi-boot), mas neste caso você pode usá-lo para sua vantagem de reverter conscientemente para uma configuração de sistema operacional com facilidade.
Depois que todos os vestígios da instalação do Linux forem removidos, você poderá remover com segurança as partições que anteriormente continham essa instalação usando o Gerenciamento de Disco e, em seguida, expandir as divisões do Windows no espaço livre em disco.
TL; DR: Faça uma instalação de reparo do Windows para se livrar do prompt de inicialização.