A única maneira que eu consegui lançar sem usar um programa externo (por exemplo, o Skype) foi usar AForge.Net
Usando o AForge.Net, você pode abrir a janela de propriedades simplesmente chamando DisplayPropertyPage em um VideoCaptureDevice
videoCaptureDevice.DisplayPropertyPage(IntPtr.Zero);
Usar o AForge.Net pode ser um exagero por apenas exibir a página de propriedades (eu já estava usando isso para alguma manipulação de imagens), mas você pode ver a fonte para ver o que está fazendo sob o capô. O método DisplayPropertyPage está na classe VideoCaptureDevice.cs