O comprimento de um nome de host não está relacionado ao IP. É um nome , então apenas os protocolos de resolução de nomes importam. O DNS, por exemplo, limita o tamanho de um único rótulo (parte separada por ponto) a 63 caracteres e a extensão de um nome de domínio completo para 253 caracteres.
De qualquer forma, se você fizer precisar de um nome de host com mais de 255 bytes, você terá problemas maiores.