Talvez. Depende de muitas coisas, nem todas relacionadas aos fatores listados acima, incluindo quantas linhas / muitos dados você excluirá e quantos dos seus dados totais representam, como seus dados são normalizados e quantas associações suas consultas, como suas consultas são escritas e, provavelmente, vários outros fatores.
EDITAR: Como um aparte, é melhor dimensionar para atender aos dados que você tem (por exemplo, otimizando consultas, adicionando ou modificando índices, atualizando hardware, etc.) do que para redimensionar os dados para atender as limitações do seu sistema. Há exceções, como, por exemplo, se os dados que você está excluindo forem, em si, uma responsabilidade potencial, como dados pessoais, financeiros ou de integridade, sobre os quais você não tem mais uso legítimo.