Você pode especificar o uso de vários arquivos durante as opções de captura. A partir dessas opções, você pode definir quantos arquivos de captura deseja e o tamanho de cada arquivo. Então você poderia dizer especificar 20 arquivos 20MB cada. E quando você está fazendo a captura, o Wireshark fará um round robin desses 20 arquivos e cada vez que atingir 20MB, ele irá para o próximo arquivo.
Depois de parar a captura, você pode pegar arquivos contíguos e mesclá-los cronologicamente também, se desejar.
Dependendo da quantidade de dados que você está fazendo, convém aumentar o tamanho do buffer um pouco também, para garantir que você não esteja descartando nenhum pacote durante a captura.