Uma maneira de reproduzir DVD no xbox é gravar o formato AVI (Divx / xvid) em um disco, e você também pode obter cargas em um disco.
Pessoalmente, não consegui usar o h264 para trabalhar no meu xbox, mas o avi funciona muito bem, você pode abrir o CD como uma unidade flash e escolher o arquivo que deseja reproduzir.
Você pode usar o k9copy do centro de software para copiar seu dvd para o avi.
Espero que ajude.