Você pode usar xargs para conseguir o que deseja.
find . -type f -print0 | sort -z | xargs -0 -n1 openssl sha512
A opção -n1 diz ao xargs para permitir que apenas um argumento seja fornecido ao comando openssl . As opções -print0 , -z e -0 impedem que o pipeline seja interrompido se houver caracteres "problemáticos" (como uma nova linha incorporada) nos nomes de arquivos.