Você pode restaurar os arquivos, mas vai depender muito do que aconteceu com o sistema de arquivos desde que você os removeu.
O Linux manterá os arquivos abertos, razão pela qual seus sites ainda são executados, mas no segundo em que você encerrar o processo que mantém os bloqueios, você efetivamente perderá os arquivos.
A única maneira provável de recuperar os dados é desligar e montar o disco 'somente leitura' e usar uma das muitas ferramentas de recuperação, esse segmento tem alguns conselhos excelentes para dar sobre este assunto - link
Eu recuperei vários TB com uma oferta comercial, mas para a vida de mim não consigo lembrar seu nome.
Se você não tiver acesso ao servidor, poderá recuperar os arquivos atualmente bloqueados, mas o processo é imperfeito e desejará fazer a recuperação para um volume diferente para evitar a lixeira de arquivos que não estejam abertos no momento e potencialmente recuperáveis usando um utilitário undelete.
Alguma coisa nos moldes de:
tail -c +0 -f /proc/$pid/fd/$fd > filename
Então, faça uma iteração em todos os $ pid's que associaram $ fd e você receberá uma quantia justa de volta.
Boa sorte!