Principalmente por causa do custo. Memória mais rápida é, custa mais para fabricar. Por motivos de desempenho, você deseja que os registros sejam o mais rápidos possível, mas também deseja manter o custo do processador baixo. Então, o designer decidiu uma medida boa o suficiente para essa memória, que mantém o custo sob controle e o desempenho em um intervalo aceitável.
Para tornar o desempenho ainda melhor, alguém decidiu fazer o cache L1 com memória um pouco mais barata, mas ainda mais rápida que a RAM. Claro, uma vez que é mais barato, podemos colocá-lo mais do que registros, mas ainda menos do que a RAM barata. Então o designer encontrou o equilíbrio aqui também.
E a história continua no cache Lx ...