Encerra automaticamente o aplicativo .NET em “exceção não tratada ocorreu”

Question

Tenho a infelicidade de ser forçada a executar um aplicativo que não escrevi como serviço. O aplicativo não foi projetado para ser executado como um serviço, portanto estou usando o NSSM. Tudo está funcionando muito bem, exceto pelo fato de que, às vezes, aparece uma janela dizendo:

Unhandled exception has occurred in your application. If you click Continue, the application will ignore this error and attempt to continue. If you click Quit, the application will close immediately.

Infelizmente, isso impede que o NSSM reinicie, porque o processo não morreu. Como posso obter o .NET para deixar a coisa morrer e não me avisar?

NOTA: não tenho acesso ao código-fonte nem ao Visual Studio. Esta é estritamente uma tarefa de DevOps.