what happens to the excess 1 GB of RAM? Nothing at all?
Nada acontece com isso. Apenas não é usado. No Gerenciador de Tarefas, o Windows mostrará um "Total" de 7168 MB no sistema, e isso é tudo que será usado.
A RAM não usada ainda consumirá um pouco de energia, já que os circuitos de atualização não têm como saber que alguns dos bits não importam (de qualquer forma, não é possível que os bits de um chip de RAM sejam seletivamente atualizados).
Note que se você tiver apenas um único módulo com oito ou dezesseis chips, isso não resultaria em um ou dois dos chips não utilizados. Não é assim que os módulos de RAM são organizados.
I have a dedicated video card and video RAM, will it affect that at all?
Não. A RAM de vídeo não é contada na RAM usada pelo gerenciamento de memória do Windows.
Will this effectively guarantee that I never use more than 87.5% of my total RAM in Windows?
Não apenas "efetivamente". Isso irá garantir isso.
Overall, I guess what I'm asking is if this would be any sort of effective strategy to increasing system stability, or would it just make it more complicated? I am using Windows 8.1 (64-bit).
Não, desculpe. Qual é a natureza da instabilidade que você está vendo? Exatamente o que o sistema está fazendo ou não está fazendo? Vamos começar com isso. "Instabilidade" pode significar qualquer uma de várias coisas: BSODs, falhas persistentes de aplicativos ou trava, trava de todo o sistema, ... o que o sistema está fazendo?
Se você acha que está com falta de memória, então o memtest86 + ou o teste de memória interna do Windows (Vista e posterior) devem ser testados. Se você tiver mais de um DIMM ou SIMM, a melhor maneira de isolar erros de memória em um módulo é puxá-los um de cada vez, se seu mobo permitir isso, e verificar se a instabilidade persiste (mas espere que o sistema diminua a velocidade, claro). Se a sua placa-mãe não permitir isso, ou se você tiver apenas um módulo, a única maneira de saber se um problema é causado por um módulo com falha é tentar substituí-lo por um bom.