Você pergunta,
Is there a way other than Trial & Error to find out which file formats can be merged with cat and which can't?
E em um comentário sobre outra pergunta que você escreve,
Any chance for me to tell what cat might assume as header and what not
Isso eu acho que é a questão fundamental: cat
não sabe nem se importa com o formato do arquivo. Ele pega um ou mais arquivos e produz um único fluxo de saída que é o resultado da cópia consecutiva dos arquivos de origem.
Em seguida, é responsabilidade do aplicativo que lida com o arquivo resultante para determinar se o arquivo mesclado resultante "faz sentido".
Por exemplo, para mesclar arquivos PDF, é necessário usar algo como pdftk
; uma concatenação simples não funciona. Como você percebeu, alguns tipos de arquivos de música digital podem ser concatenados, mas outros não. Em alguns casos, você pode descobrir que um jogador pode manipular um arquivo concatenado, mas outro não; não há regra simples.