A sintaxe correta é:
if [ $(($num % 3)) -eq "0" ]
De man bash :
Expansão aritmética
Expansão aritmética permite a avaliação de uma expressão aritmética e a substituição do resultado. O formato da aritmética a expansão é:
$((expression))
A expressão $num % 3 deve ser avaliada antes de poder ser comparada usando -eq .