Não, receio que nenhum algoritmo possa saber o que é pessoal e o que não está na sua captura de pacotes.
pessoalmente, eu criaria uma captura de um aperto de mão seguro que não exponha nenhum dado com o qual você realmente se importe. talvez crie um conjunto de credenciais descartáveis para usar apenas para essa finalidade. caso contrário, você terá que editar a captura como você sugeriu. Se você souber o tipo de codificação, deve ser razoavelmente fácil identificar o hex para seus dados pessoais.