O problema é que, quando você matou a sessão "parado" (supondo que você tenha matado o cliente com força), o identificador de arquivo no servidor permaneceu aberto.
Diferente do FTP (S), na verdade, o protocolo SFTP exige que o cliente feche explicitamente um identificador de arquivo após usá-lo. Se o cliente não fizer isso, o arquivo no servidor permanecerá aberto e, portanto, você não poderá excluí-lo. Dependendo de qual software de servidor você está usando, talvez seja necessário interromper / reiniciar o processo do servidor para liberar alças "zumbis".