Eu questiono a lógica dessa questão, pois mesmo que você esteja apenas permitindo que as caixas Linux se conectem, não há nada que impeça essas caixas Linux de usar caixas do Windows, etc. Acredito que fazer isso por razões de segurança deve ser equivocado, particularmente O OpenVPN é opensource e pode, assim, ser hackeado para parecer algo que não é.
Você não especificou os parâmetros para os clientes do OpenVPN, então a questão está aberta à interpretação. Você pode, por exemplo, permitir que o cliente se conecte, mas depois forçar uma conexão (via SSH ou algo assim) de volta à máquina que conectou e executou alguns testes para garantir que seja uma máquina Linux.
Alternativamente, dependendo da robustez de uma solução que você precisa, você também pode fazer uma varredura "Fingerprint Scan" para OS usando, por exemplo, Detecção do NMAP OS .
Outra opção, dependendo do seu caso de uso, seria usar parâmetros que são implementados apenas no Linux. Você pode ser capaz de configurar o túnel P2P com 192.168.1.1 em uma extremidade e 192.168.1.5 na outra extremidade - Eu suspeito que o Windows não irá lidar com isso corretamente enquanto o Linux irá.