Cache é basicamente uma maneira muito rápida de um disco rígido ter acesso à informação. Essencialmente é um buffer. Por exemplo, digamos que você vai gravar dados em um disco rígido, mas escrever é uma operação cara. Portanto, o disco rígido armazenará normalmente vários pedidos de gravação e os fará todos de uma vez. Ele pode ser usado para enfileiramento de comandos ou como forma de sincronizar velocidade entre dois volumes RAID. Quanto maior o cache, mais espaço de manobra o controlador e o sistema operacional têm em priorizar o acesso a um prato real (ou NAND para SSD).
Depende do que você está usando a unidade, eu provavelmente olharia para outros fatores, como latência (aleatória, sequencial), RPM (7200 é ideal, mais rápido é melhor). Eu certamente consideraria essas duas opções antes do tamanho do cache para um usuário todo dia.