Depende do que a sobrescrita e como o sistema de arquivos implementa a escrita em geral.
Por exemplo, shred tenta sobrescrever um arquivo para apagá-lo; mas mesmo que tenha sucesso, não há garantia de que não haverá cópias antigas em outro lugar. Outro exemplo para programas que geralmente escrevem no lugar são bancos de dados.
A maioria dos outros programas (como editores de texto ou de escritório ou de imagem) precisam reescrever o arquivo inteiro de qualquer maneira, em vez de apenas alterar uma pequena parte do antigo. Eles normalmente apagam / truncam o arquivo primeiro e criam um novo em seu lugar, muito provavelmente terminando em outro local no disco. Às vezes, eles até criam um novo arquivo (garantido para estar em um novo local, já que o antigo ainda não foi removido), e só substitui / renomeia o antigo quando ele foi bem sucedido.
Se o seu objetivo é livrar-se de dados confidenciais, provavelmente você deve sobrescrever todo o espaço livre no sistema de arquivos ou em todo o dispositivo do sistema de arquivos. Você não pode confiar em sistemas de arquivos fazendo o que você quer, nem em vários programas para nunca ter criado outra cópia que ainda está em algum lugar.