A independência da resolução do Mac OS X não é avançada o suficiente. Mesmo o aplicativo Quartz Debug incluído nas ferramentas do desenvolvedor não suporta fatores de escala abaixo de 1,0.
A maneira correta de fazer isso parece estar recebendo uma tela maior ou mais alta de DPI.