Você não pode realmente impedir que alguém faça uma solicitação a um recurso inexistente (por exemplo, qualquer pessoa pode criar um URL para uma página que não existe e obter um erro 404). No entanto, pode haver algumas coisas que você pode fazer para melhorar a situação.
Primeiramente, altere o nome do arquivo em seu novo conteúdo - se você ainda referenciar um arquivo javascript no seu html, verifique se ele tem um nome diferente daquele com o problema, para que o navegador não use a cópia em cache.
Em segundo lugar, faça a sua página 404 o mais simples possível (definitivamente escolha uma página estática, não algo dinâmico e muito pequena).
Em terceiro lugar, o Apache não é tão eficiente ao lidar com um grande número de solicitações simultâneas sem muita memória disponível (ele lança um thread de trabalho por solicitação). Considere (pelo menos temporariamente) adicionar outro servidor na frente do Apache que manipulará as solicitações 404 de maneira mais eficiente. Alguns exemplos podem incluir:
- nginx - ele atende as solicitações 404 (e possivelmente todos os arquivos estáticos) e proxy_passa outras solicitações de volta ao Apache (e também pode fazer o cache de solicitações de proxy)
- Varnish - ele pode armazenar em cache a solicitação 404 e veiculá-la diretamente da memória, reduzindo a carga no Apache