Isso depende de quais são os dados e com que frequência você deseja colocá-los dentro ou fora do armazenamento. Algo como o YouTube com 5 TB de vídeo terá requisitos completamente diferentes de 5 TB de números de seguridade social e dados financeiros. É mais importante que os 5 TB sejam altamente disponíveis, ou é mais importante que os 5 TB sejam muito seguros? Você mencionou um site e um aplicativo que poderia ser servido como SAAS; em que eles estão escritos? Isso pode afetar sua resposta também. (Se o site e o aplicativo forem LAMP, talvez você não queira armazenar seus 5 TB no Microsoft SQL Server, simplesmente porque as pessoas que conhecem as pilhas diferentes têm menos probabilidade de ter conhecimento cruzado, se você entender o que estou dizendo. )
Supondo que você não vá com uma CDN (que você pode, se o 5TB for apenas uma pilha de arquivos que você deseja disponibilizar sob demanda), para 5 TB eu sugeriria um servidor dedicado com armazenamento dedicado e uma forma pré-projetada para fragmento desses dados para expansão futura. Não sabendo o que os dados são, no entanto, estou praticamente adivinhando.