No Ubuntu, qualquer configuração de VPN que você colocar em um arquivo chamado /etc/openvpn/$NAME.conf será iniciada automaticamente.
Portanto, tudo o que você precisa fazer é copiar seu client.ovpn para /etc/openvpn/client.conf . Sugiro que você também use caminhos absolutos no seu client.conf para todas as chaves, scripts e assim por diante.
Claro, você pode querer verificar novamente o arquivo /etc/default/openvpn . Por padrão, ele inicia automaticamente todas as VPNs, mas o valor AUTOSTART pode ter sido alterado para none ou ser uma lista das configurações específicas que você deseja iniciar automaticamente.