Tanto o SHA-512 quanto o Whirlpool são hashes de 512 bits, enquanto o RIPEMD-160 é de 160 bits. TrueCrypt usa esses hashes com PBKDF2 para obter as chaves. Ao criar volumes de arquivos, o Truecrypt usa 1.000 rodadas tanto para o SHA-512 quanto para o Whirlpool, mas 2.000 rodadas para o RIPEMD-160. Eu tenho um software chamado TCHead que descriptografa os cabeçalhos TrueCrypt. É muito simples e direto e demonstra como e onde esses hashes são usados.
Para responder à sua pergunta, na minha opinião, o SHA-512 ou a Whirlpool estariam bem. Eu usaria qualquer um e não se preocuparia muito com isso. Espero que isso ajude.