O DTS não é apenas um codec de áudio "um", já que há muito mais incluído nesse nome. Quanto ao codec de áudio DTS que você provavelmente está se referindo, isso é chamado DTS Coherent Acoustics .
É de onde vem a abreviação dos arquivos no FFmpeg - dca
.
Nesse caso, procure os arquivos libavcodec/dca*
, por exemplo para decodificar em dcadec.c
.