What I was thinking about was getting a PCIe ram disk thingie, put the cheap ram into that and use it as swap with swappiness set to maximum. Is this feasible?
Essas coisas são caras e não dão muito dinheiro para você. Suas VMs normalmente não usam swap dessa maneira, e é melhor você adicionar swap nas VMs conforme necessário. Há unidades sata ou NVMe velozes (ou razoavelmente rápidas) que funcionariam bem, e lhe dará melhor velocidade e capacidade do que aquelas unidades de memória RAM a custo significativamente menor . Para esse assunto, uma nova placa-mãe e processador pode ser muito mais barata que um disco RAM PCIe. A maioria dos que eu olhei são "contate-nos para preços"
So I thought about having let's say 8GB of very fast and expensive RAM and then maybe 64GB of cheaper and slower ones.
Isto é ... uma má ideia. Ram sempre vai correr na velocidade do seu ram mais lento. E na maioria das situações, o ram de alta frequência oferece uma vantagem mínima . Vá com preço e quantidade ao longo da velocidade.
Another problem is that motherboards in my price range don't support that much ram directly (and also 4GB sticks are the cheapest, so that would require even more slots.
Vá com 2x8 para começar. Eles não são tão caros e você pode ir 2x16 em DDR4 no futuro, ou algo assim. Eu realmente tenho 8gb no meu dedi e eu realmente não sinto o aperto.