Eu tive um problema parecido, payara 4. (algo) - eu o rastreei até o arquivo que foi empacotado no diretório modules - ele continha uma implementação xerces -
Se você executar o seguinte comando:
find <payara-dir> -name '*.jar' -exec grep -Hls SchemaDVFactory {} \;
você encontrará um arquivo jar contendo essa classe. O problema é rt.jar também contém uma implementação. Eu encontrei este aqui
../glassfish/modules/aixporting-repackaged.jar
no meu sistema
tldr Acho que você pode ter baixado uma versão do aix do payara que contém uma implementação de xerces em pacotes.
solução baixe a versão correta (não-aix) do payara