Is there a way to, on OSX, require that the VPN be setup before applications are allowed to use the network?
Não que eu saiba. Rede é Rede - Se você tiver uma conexão de rede que forneça uma rota para um determinado host, o sistema a utilizará. Desde que você precisa ter uma conexão de rede (para a internet) antes de criar a conexão de rede virtual (para sua VPN), você realmente não pode "parar" o sistema de usá-la - pelo menos de maneira não eficaz.
Se seus usuários estiverem acessando dados confidenciais, eles devem estar usando a VPN - eles não devem ter acesso a dados / aplicativos confidenciais sem usá-los. Sua arquitetura de sistema deve impedir isso. Se você estiver preocupado com a possibilidade de um terceiro mal-intencionado falsificar seu aplicativo confidencial e capturar dados / credenciais de login, uma boa camada de segurança é uma boa ideia - os certificados SSL são uma das medidas mais comuns empregadas.