Eu vi outros tentarem uma configuração semelhante, geralmente resultando em vários erros e outros problemas. Na minha experiência, o OBS executa melhor 'executando' o mesmo GPU que está renderizando o jogo. Descobri que o OBS não tem um impacto significativo no desempenho dos jogos, principalmente nas cartas mais recentes.
Embora a configuração sugerida seja mais provável, os benefícios de desempenho seriam questionáveis. Se você estiver procurando "descarregar" algum trabalho da sua GPU, você pode investigar uma placa de captura externa ou investigar a gravação em um PC secundário, ambos os quais são configurações comuns que vi na comunidade de transmissão.
Meu conselho seria manter a captura de OBS a partir da GPU sem se preocupar com os gráficos internos, isso provavelmente tornará a vida mais fácil a longo prazo.