Não há nada no Linux que force um programa a usar menos de 100% da CPU ou a não alocar a quantidade de RAM necessária, desde que nenhum outro processo precise dos mesmos recursos ao mesmo tempo. O valor nice apenas determina quão "bom" (entendeu?) o processo brinca com os outros e quanto está disposto a compartilhar o tempo da CPU com outros processos.
É como se você fosse a única criança no playground você tem todos os brinquedos para si mesmo, mas se há mais de um, então crianças mais agradáveis desistem de mais brinquedos do que aqueles que são menos legais ...
O ponto é: é provável que o jogo seja limitado pela sua placa de vídeo, não pela CPU - é por isso que não está usando 100% da CPU, simplesmente não faz sentido. Jogar com nice valores só fará o jogo correr mais rápido se você executar alguns cálculos com uso intensivo de CPU na máquina ao mesmo tempo.