A sintaxe do filtro pcap usada para o tcpdump deve funcionar exatamente da mesma maneira no filtro de captura wireshark.
Com o tcpdump eu usaria um filtro como esse.
tcpdump "tcp[tcpflags] & (tcp-syn|tcp-ack) != 0"
Confira a página de manual do tcpdump e preste muita atenção nas tcpflags.
Verifique também as seções na Wiki do Wireshark sobre filtros de captura e exibição. Infelizmente, os dois tipos de filtros usam uma sintaxe completamente diferente e nomes diferentes para a mesma coisa.
Se você quisesse um filtro de exibição em vez de um filtro de captura, provavelmente precisaria construir uma expressão combinando tcp.flags.ack e tcp.flags.syn. Eu estou muito mais familiarizado com os filtros de captura, então você terá que resolver isso por conta própria.