Eu tive o mesmo problema. Como a resposta de muclux sugere que o problema está relacionado a transações recorrentes, capturei uma cópia do arquivo (renomeada com extensão .gz), que fornece um arquivo XML, e abri o arquivo em um editor de texto. Então eu removi tudo
<gnc:schedxaction>...</gnc:schedxaction>
Tags XML (com o seu conteúdo), salvou o arquivo, gzipou-o, renomeou-o e este arquivo agora pode ser aberto pelo GnuCash sem erros. Desta forma, não é necessário que o GnuCash no Windows apague as transações recorrentes.