RAM de velocidade mais alta provavelmente fornecerá mais benefícios em sua situação, especialmente porque o clock de seus DIMMs mais rápidos é quase o dobro dos DIMMs de velocidade mais baixa (1600MHz vs. 833MHz). Como você tem um CPU e GPU realmente bons, a memória é mais provável de ser um gargalo no seu sistema.
Se você misturar os DIMMs, você não terá apenas uma freqüência reduzida, mas provavelmente também reduzirá os tempos (latência do CAS, etc.).
No geral, acaba sendo muito dependente da aplicação. Aqui está um artigo sobre o Tom's Hardware que aborda o tópico com mais detalhes e com benchmarks: link
Aqui está uma citação relevante de sua conclusão:
Two out of five game tests, F1 2012 and The Elder Scrolls V: Skyrim, showed us that that both bandwidth and latency can influence frame rates significantly. Both variables appear equally important, too. We might have guessed we'd see the results we did; after all, both titles are already known to be less graphics-bound than the others.
On the other hand, Metro 2033, Battlefield 3, and Aliens vs. Predator demonstrated no changes at all. The performance of the first two titles is most consistently associated with the speed of a given machine's graphics subsystem, so it makes sense that we don't see a big impact from memory bandwidth or timings.
De acordo com suas descobertas, definitivamente há um benefício potencial (baseado na aplicação) em ter uma memória mais rápida.
O que resta a determinar é se a quantidade de memória é insuficiente no seu caso e se beneficiaria de um aumento. Os aplicativos e jogos modernos geralmente não precisam de mais de 8 GB de memória do sistema, por isso suponho que o desempenho do aplicativo não aumentará com mais memória. O tempo de carregamento do aplicativo e a capacidade de resposta do sistema podem ser um pouco melhores com mais memória devido aos efeitos do armazenamento em cache, mas isso é à custa de um melhor desempenho sustentado do aplicativo.
No geral, eu suspeito que usar apenas a maior velocidade RAM é melhor no seu caso, mas provavelmente vale a pena o seu tempo para executar alguns benchmarks em ambas as configurações, uma vez que você já tem a RAM.