Permitir acesso pelo aplicativo de serviço. Não tenho uma caixa OpenVPN disponível no momento, mas acho que você deve permitir o acesso com base em um comando como:
ufw allow OpenVPN
Você pode ver se é possível usar uma VPN aberta assim:
ufw app list
O que mostrará os aplicativos de serviço dos quais o ufw está ciente.
No caso de nenhum perfil OpenVPN, você poderia tentar usar o ufw para permitir apenas conexões de saída nessa interface para a porta 1194 (ou qualquer porta na qual o servidor OpenVPN esteja aceitando conexões.) Algo como:
sudo ufw deny out to any sudo ufw allow out 1194/udp
(assumindo uma configuração de estoque OpenVPN.)
Isso não limitaria isso apenas ao OpenVPN ... mas a única possibilidade de vazamento seria outra coisa usando essa porta e o UDP .... e as chances disso são muito baixas.
Para obter mais segurança na filtragem de portas, você teria que usar algo mais substancial que o ufw. O AppArmor ou o SELinux, creio eu, seria o seu próximo passo, sem ter que passar por verdadeiros appliances de firewall de Camada 7.