I have one program run through a proxy then turn on my vpn, will the
vpn "override" the proxy?
Não, a VPN é mais como um adaptador de rede (ou uma "placa de rede virtual", se quiser). Portanto, se a VPN estiver ligada, é possível que o tráfego de proxy passe pela VPN (e não o contrário - pelo menos não quando você faz isso na mesma máquina).
The case is, I want all my traffic to be encrypted over the vpn but I
want the speed of the proxy in this one program and still be encrypted
by the vpn, is this possible?
Se você insistir em usar a VPN, a velocidade de rede final obtida será limitada pela VPN e a velocidade será menor nas duas velocidades (e, na prática, a velocidade final você acabará com será muito mais lento do que a VPN ou o proxy sozinho).
Can I run this one program through the proxy and still have the
traffic encrypted through the vpn at the same time or will the program
using the proxy be unencrypted?
Como eu dei o exemplo anterior, sua VPN é como outra "placa de rede" (interface LAN), exceto que é virtual. Essa é a melhor analogia que eu posso dar.
Portanto, você pode usar um proxy ou até mesmo outra VPN (túnel dentro de um túnel) para todo o tráfego do seu computador.
Isso é praticamente padrão e às vezes fazemos isso em organizações maiores (para maior segurança).
No entanto, o preço que você pagaria seria uma queda na velocidade da conexão, e isso piora quanto mais VPNs / Proxies você colocar no caminho do tráfego.
Em outras palavras, se estiver tentando adicionar um proxy para "velocidade", não, isso não resolverá o problema, já que o limitig factor será o caminho MAIS LENTO que o tráfego encontra em sua caminho para o destino (SO se a VPN tem uma velocidade menor, não faria o fato de que você adicionou um proxy para a configuração, mais rápido).
Second question, any good program I can use to analyze my network
traffic so I can test this myself?
Existem muitas ferramentas. Para um não profissional, o mais fácil, mas, ao mesmo tempo, uma ferramenta que poderia lhe dar uma visão significativa do processo seria Fiddler .
Se você realmente quer ir fundo, então o Wireshark é uma das ferramentas usadas pelos profissionais.
Você não mencionou a plataforma em que está, mas veja as lista de outras ferramentas se você não gostar das duas ferramentas que eu mencionei acima.