A configuração para alterar o tamanho dos ícones, localizada em Configurações > Aparência > Ícones > Avançado, parece ter sido inutilizável durante anos (como observado na pergunta). Eu acho que este tem sido o caso desde alguma versão do KDE 4. Possivelmente está relacionado a se o tema do ícone está em um formato independente de resolução (svg).
Uma configuração iconSize oculta foi adicionada ao espaço de trabalho do plasma 5.9. Antes da adição dessa configuração, os arquivos qml precisavam ser editados.
Para alterar a configuração em todo o sistema, edite o arquivo:
/usr/share/plasma/plasmoids/org.kde.plasma.private.systemtray/contents/config/main.xml
Este arquivo será sobrescrito sempre que o espaço de trabalho do plasma for reinstalado ou atualizado.
Para alterar a configuração de um usuário específico, edite:
$HOME/.config/plasma-org.kde.plasma.desktop-appletsrc
Procure a entrada que corresponde à bandeja do sistema. Será algo parecido com isto:
[Containments][#]
...
plugin=org.kde.plasma.private.systemtray
...
Em seguida, role para baixo até ver algo parecido com isto:
[Containments][#][General]
extraItems=...
knownItems=...
showAllItems=true'
Em seguida, adicione:
iconSize=#
Em que # é um número que se refere a uma das seguintes opções:
0 ~ Small
1 ~ SmallMedium
2 ~ Medium
3 ~ Large
4 ~ Huge
5 ~ Enormous
Para ver as alterações, faça log on e on. Ou mate e reinicie o plasmashell em uma janela de terminal:
killall plasmashell ; sleep 1 ; kshell5 plasmashell