Parece que esse tipo de arquivo foi criado quando os aplicativos usaram as APIs do NSArchiver para serializar objetos em um arquivo no disco. Isso significa que ele está intimamente ligado às classes de objeto no aplicativo que o criou. Não é uma boa maneira de criar um arquivo portátil que possa ser compartilhado com outros aplicativos, o que provavelmente o abandonou e passou para algo mais portátil como o plists.
Eu acho que você está na maior parte sem sorte sem o c. 2004-2005 iChat AV codebase. Você poderia usar o comando strings(1) para extrair strings desses arquivos, mas provavelmente você perderia as datas, que provavelmente são binárias.
Olhando para um dos meus antigos arquivos .chat daquela era em um editor hexadecimal, parece que há um registro de data e hora de "segundos desde a época Unix" de 32 bits antes de cada cadeia de mensagem de bate-papo e um byte de 2 bytes valor de comprimento imediatamente anterior a cada string de mensagem de bate-papo. Há algumas coisas no início do arquivo que informa quem está conversando e quais configurações de fonte elas estão usando.