How does DivX converter estimate the bitrate value for H.265 output file? Is it such algorithm that e.g. when the original file size has 60 Mbit/s bitrate, then the bitrate estimation for the output file is half of this value so 30 Mbit/s?
Não, não é esse o caso. O valor nunca será exatamente pela metade. Depende inteiramente do que você define no codificador com relação à qualidade versus velocidade, controle de taxa (por exemplo, taxa de bits média ou fator de taxa)
I heard that converting from XAVC S or H.264 codec into H.265 will decrease the file size maximum double (not more than half of the original size).
Isso não é verdade. Você está interpretando algo errado aqui. O H.265 melhora o H.264 em termos de eficiência. Isso significa que se você pegar um vídeo com qualidade perfeita e codificá-lo uma vez com o H.265 e uma vez com o H.264 de forma que ambos tenham a mesma qualidade (subjetiva), então o H.265 será de cerca de 50% do tamanho da contraparte H.264.
Isso não significa que você pode converter um arquivo H.264 existente usando o H.265 e esperar ter exatamente 50% de redução no tamanho do arquivo. O quanto você reduz o tamanho do arquivo depende das configurações escolhidas durante a codificação.
Leia isto: P. Hanhart et al., Avaliação subjetiva da qualidade do próximo padrão de compressão de vídeo HEVC
Does it mean that I lost some data in 2nd output file and my 2nd output file is a much worse if we mean quality for this file?
Sim, você sempre perderá alguns dados se compactar um vídeo com um codec com perdas. As chances são de que é melhor manter o arquivo em H.264 e não compactá-lo novamente, a menos que você escolha um fator de qualidade ou uma taxa de bits muito alta para a codificação H.265.