Você pode instalar e usar wmctrl
para fazer algo parecido com o que deseja.
Digamos que você queira iniciar <program>
apenas se outra instância dele não estiver em execução. Se outra instância de <program>
estiver em execução, mude para ela.
Executar
wmctrl -a <something> || <program>
ou
wmctrl -ax <something> || <program>
dependendo do que funciona para você. <something>
será derivado da saída de wmctrl -l
ou wmctrl -lx
que você executará quando o programa que você deseja controlar estiver aberto.
Você pode atribuir uma tecla de atalho para isso ou usá-la em um script e criar um ativador de área de trabalho para esse script.