Eu já tinha instalado o Gnome anteriormente. Então esse comportamento estranho foi de fato causado por aplicativos pegando um tema GTK.
Consegui alterar o tema do GTK em Configurações > Estilo da Aplicação > Gnome Application Style (GTK) .
Depois disso, descoloquei QT_QPA_PLATFORMTHEME
de /etc/profile.d/appmenu-qt5.sh
e finalmente consegui alterar os ícones de Configurações > Ícones