Reinstale o XQuartz 2.7.4 (a versão mais recente até o momento desta publicação).
Eu vi o mesmo problema. Eu já tinha o XQuartz 2.7.4 instalado e trabalhando com o Wireshark antes de instalar o Mavericks. Depois de instalar o Mavericks e tentar iniciar o Wireshark, recebi o mesmo diálogo que você. Re-instalar o XQuartz 2.7.4 resolveu o problema para mim.