O que você está falando é chamado de HSM (Hierarchical Storage Manager). Existem algumas dessas funções incorporadas ao ZFS, mas, em geral, não há nada nas ferramentas padrão do Linux.
Uma coisa que funciona bem é colocar o diário do sistema de arquivos e / ou metadados em um disco flash. Isso é mais útil se você tiver uma matriz RAID, é claro. Usando o XFS, um RAID-6 de 6 TB e um pequeno SSD permitem velocidades incrivelmente rápidas.
Outra opção é usar os adaptadores RAID Adaptaec mais novos, que permitem usar um SSD como um cache enorme, fazendo exatamente o que você esperava, mas no nível de firmware do controlador RAID.
Última opção, é usar o SSD como espaço de troca com alta prioridade.