Eu me deparei com esse problema também.
O problema é mais provável que puppet agent
tenha sido executado antes de iniciar puppetserver
.
O agente criará sua chave quando for executado pela primeira vez, mas não a CA necessária para executar o servidor.
Para resolver isso nessa VM existente, você precisará remover essas chaves:
rm -rf /etc/puppetlabs/puppet/ssl/*
E então inicie o puppetserver novamente.
O servidor irá gerar todas as chaves necessárias para executar.