Eu finalmente encontrei uma solução (mesmo que eu ainda não saiba o problema exato): link
- Instale as duas versões do banco de dados (MariaDB 5 e 10).
- Importe todo o mysql dump de antes.
- Adicione os mesmos usuários (raiz) às duas versões do banco de dados.
- Instale o phpBB no centro de pacotes Synology com as senhas e um usuário para phpBB com alguma senha.
- Recebi um erro: O banco de dados já existe "- > Dropped database for phpBB in MariaDB10.
- A instalação foi bem-sucedida.
- MariaDB5 desinstalado.
- A diretoria funciona novamente, mas a postagem não é possível. (Existem alguns posts no fórum sobre esta questão e vou tentar encontrar uma solução para isso também.)