Nem todas as fontes suportam todos os caracteres Unicode. Os triângulos sólidos que você está tentando usar (Unicode U + 25B2 ou ▲) não estão incluídos na Palatino Linotype, mas estão nas fontes DejaVu Sans. No entanto, o processo de exportação está usando uma tabela de substituição de fontes que descarta a fonte DejaVu Sans e a substitui pela Segoe UI. O caractere ★ não faz parte do conjunto de fontes Segoe UI, então um caractere de substituição foi criado.
Portanto, verifique as configurações de substituição de fontes e incorporação de fontes. Na caixa de diálogo Exportar como PDF , há uma opção para incorporar fontes padrão. FWIW, minha própria exportação de PDF de teste do Calc usava Arial MT e Arial Unicode MS e não havia problema.