Você poderia usar tcpi_retrans, já que contém retransmissões que ocorrem devido a retransmissões rápidas (e outras decisões não baseadas em tempo limite), mas eu acho que muitas vezes é definido como zero. tcpi_retransmits retém as retransmissões baseadas em tempo limite.
Você provavelmente deve dar uma olhada no LINUX_MIB_TCPFASTRETRANS em estatísticas da rede. Esse deve manter as estatísticas que você deseja.