Até onde eu sei 'VPS' é apenas uma palavra de marketing para uma máquina virtual, então basicamente sim você pode rodar um Win32 .exe nele, se você instale um sistema Windows (ou um sistema com compatibilidade Win32) nele. Para obter as saídas do seu programa em uma interface php / html, você precisa executar um servidor da web com o php instalado dentro da vm também.