Como você tem uma quantidade considerável de dados que não mudam muito com o tempo, eu recomendo que você implemente algum tipo de classificação (os Espaços de armazenamento com classificação automatizada devem caber). A ideia é que a camada "quente", que é o armazenamento local, deve conter dados mais recentes que devem ser acessados rapidamente e a camada "fria" pode ser transferida para a nuvem.
A ideia não é nova - o Nasuni link faz coisas muito semelhantes a esta abordagem. Uma opção DIY é o link do S3Fuse que permite montar um armazenamento em nuvem como uma unidade local. O link do StorSimple é outra opção, mas está estritamente vinculado ao Azure.
Se você não estiver disposto a instalar / configurar e manter qualquer software adicional, poderá usar um gateway de hardware como o link AcloudA que fará o trabalho sem precisar de software ou drivers adicionais.