Eles usam a API de arquivos em JavaScript para ler o arquivo e calcular o hash antes fazendo o upload.
Assim como o Javascript pode ler o que você digita nos campos de texto sem esperar que você envie o formulário, ele pode fazer o mesmo com os arquivos selecionados para upload. Assim que você pressionar o botão "OK" na caixa de diálogo de seleção de arquivos, um evento será acionado e o script poderá obter acesso de leitura ao arquivo.