É muito simples: o xbox360 é um dispositivo DLNA e a especificação DLNA não suporta MKV. Portanto, não é que o xbox360 não suporte MKV: é que o DLNA não suporta. O que qualquer servidor de mídia precisa fazer nesse caso é abrir o contêiner MKV e examinar o conteúdo para determinar se ele pode empacotá-los de uma forma que se encaixe em um dos perfis DLNA. Também todas as partes componentes precisam estar na especificação DLNA - e se alguma delas não estiver, a transcodificação é necessária para fazer as coisas funcionarem. No mínimo, haverá demolição e reempacotamento em um dos contêineres compatíveis com DLNA. Escusado será dizer que há muita complexidade, e qualquer número de servidores de mídia diferentes por aí que podem fazer o trabalho, mas quase todos os quais exigirão recursos de hardware significativos para fazê-lo com eficiência. Parece que o conteúdo do (s) arquivo (s) MKV pode (m) exigir transcodificação, e isso está levando a um produto final inferior. Você pode usar algumas ferramentas para dar uma olhada no conteúdo do seu mkv e nos codecs específicos que estão sendo utilizados.