A resposta geral é "sim", mas você precisa ter cuidado. A questão não é tanto em misturar diferentes tamanhos de RAM (eu estava fazendo isso aqui por um tempo em uma placa-mãe muito similar), mas com outras propriedades da RAM.
O manual da sua placa-mãe (você pode fazer o download do SuperMicro aqui se não o fizer) t tem) tem uma tabela mostrando as limitações. A tabela que você quer está na página 2-9. "População de 1.5V RDIMM para a placa-mãe com 5600 processadores instalados"
Seu sistema tem 3 canais por soquete de CPU e dois slots por canal. Você atualmente tem um slot em cada canal ocupado. Sua memória RAM existente é de 1333 MHz, então você está na linha superior da tabela. Para usar essa RAM com dois slots preenchidos por canal, você será colocado na linha três da tabela, o que o limita à RAM de classificação única ou de classificação dupla. Sua RAM existente é de classificação dupla (DR). Se você for para quad-rank, sua velocidade de RAM cairá para 800 MHz (linha 4).
Não consigo ver na folha de especificações quantas fileiras a RAM você quer adicionar, então há uma pergunta lá, especialmente porque DIMMs mais densos tendem a ter mais ranks. Mesmo os módulos de 16 GB por si só, se quad-rank, iria diminuir sua velocidade de RAM para 1066 MHz. Numerosos testes mostraram que a taxa de clock da memória está longe de ser tão importante quanto parece para o desempenho, mas se você está atrás do desempenho final, é algo para se pensar.