Não tem nada a ver com a extensão MKV. No momento, seu player deve entender que é uma imagem 3D e enviar as informações corretas para o driver gráfico, que terá que enviar as informações corretas via HDMI (supondo que você esteja usando HDMI).
Em termos de codificação, não há nada de especial sobre vídeos em 3D. A forma mais comum é apenas duas imagens lado a lado. Você provavelmente terá que configurar manualmente alguma opção para informar ao seu player que o vídeo está em 3D.
Além disso, não é possível reproduzir em 3D em DVI ou VGA, a menos que sua TV o suporte explicitamente.
O único software que eu conheço que apóia o 3D em uma variedade de tecnologias gráficas é o PowerDVD, mas eu nunca tentei.