O conector que você tem é, como você disse, definitivamente parece-me um RP-SMA Jack . Para se conectar a ele, você precisa de um plug RP-SMA, como esse aqui . Não há muitos conectores de RF encadeados nesse tamanho e o SMA é bastante distinto.
3/16 de polegada é aproximadamente o diâmetro certo, uma vez que você leva em conta o erro de medição, de um conector SMA externo que wikipedia declara employs a 1/4 inch, 36 thread
Para o registro, com SMA as designações "plug" e "jack" referem-se à blindagem externa do conector, enquanto "RP" e normal referem-se a qual é a volta do pino e conector central do soquete. Normal é para o pino ficar do lado com o lado giratório (rosqueado internamente) (plugue) enquanto o reverso teria o contato do pino no lado externo rosqueado (jack).
Essas convenções inventadas de nomenclatura são o motivo pelo qual as pessoas odeiam conectores.
Então, sim, um conector RP-SMA RG58 seria suficiente para o que você está tentando fazer, embora existam conectores de cabo de diâmetro menor e SMA. Geralmente, embora os cabos de menor diâmetro tenham uma maior perda de sinal. Consulte este guia prático de seleção de cabos