De acordo com questões semelhantes na comunidade de suporte do Ubuntu, a opção "Escala de cinza" é o antialiasing padrão em escala de cinza, enquanto a opção "RGBA" é o antialiasing de subpixel para telas LCD.
Para ver a diferença entre os dois, você pode aumentar temporariamente o dimensionamento para algo grande e tentar cada opção. A escala de fonte maior deve permitir que você veja quaisquer diferenças nas bordas da fonte.
Além disso, não tenho certeza do motivo pelo qual a escala de cinza é padronizada. Com base nas perguntas do link , parece que a maioria das aplicações parece preferir as configurações "RGBA" ou "None".