Eu descobri finalmente: eu tive que adicionar o seguinte aos argumentos da linha de comando: --enable-experimental-web-platform-features
Também preciso de suporte para webgl, por isso o atalho final é assim para mim:
"C:\Program Files (x86)\obs-studio\binbit\obs64.exe" --enable-gpu --enable-experimental-web-platform-features