Por padrão, o vnc usa a porta 5901 para exibição 1 e assim por diante. Assim, você pode usar o netstat para listar todos os processos de escuta e calcular a exibição deles:
export DISPLAY="$(netstat -ln |
awk '$4~/:59[0-9][0-9]$/{
v=$4; sub(/.*:/,"",v);
print ":" v-5900; exit}')"
Isto assume que o seu netstat produz algo como 0.0.0.0:5901
no campo 4. O awk remove tudo até o ":" e subtrai 5900 dele. O DISPLAY é definido no ambiente para o seguinte firefox. Se você quiser combinar isso com o lançamento do vncserver, coloque-o em uma função, diga getdisplay, e use-o da seguinte maneira:
getdisplay(){
... as above
}
getdisplay
if [ -z "$DISPLAY" ]
then vncserver -name Computer
getdisplay
fi
firefox ...