O DTS não é apenas um codec de áudio "um", já que há muito mais incluído nesse nome. Quanto ao codec de áudio DTS que você provavelmente está se referindo, isso é chamado DTS Coherent Acoustics .
É de onde vem a abreviação dos arquivos no FFmpeg - dca .
Nesse caso, procure os arquivos libavcodec/dca* , por exemplo para decodificar em dcadec.c .