Não é o sistema operacional que usa RISC ou CISC, é o processador.
x86 e x64 são CISC, então qualquer sistema operacional executado neles está usando um conjunto de instruções CISC.
ARM, MIPS, Atmel AVR, PIC, quase tudo o que se destina a dispositivos móveis e de baixo consumo, e as máquinas POWER da IBM são CPUs RISC.
Muitos sistemas operacionais, incluindo o Windows e vários tipos * nix, foram portados para os processadores RISC e CISC.