Infelizmente, o host do console do PowerShell usa Ctrl+C para encerrar uma operação em andamento e Ctrl+Break encerra a operação E fecha a sessão do host. É uma escolha muito infeliz IMHO mas está lá e nós conseguimos viver com isso.
Acho que a coisa mais fácil de fazer quando me deparo com situações como essa é na sessão do PowerShell, basta executar cmd no prompt do PowerShell. Agora estou ignorando o PowerShell temporariamente e estou de volta à minha sessão do PowerShell quando terminar.
A outra coisa que você provavelmente deve considerar é usar cmd.exe em vez do PowerShell, a menos que haja algum recurso do PowerShell que você esteja tentando aproveitar.