Você pode instalar e usar wmctrl para fazer algo parecido com o que deseja.
Digamos que você queira iniciar <program> apenas se outra instância dele não estiver em execução. Se outra instância de <program> estiver em execução, mude para ela.
Executar
wmctrl -a <something> || <program>
ou
wmctrl -ax <something> || <program>
dependendo do que funciona para você. <something> será derivado da saída de wmctrl -l ou wmctrl -lx que você executará quando o programa que você deseja controlar estiver aberto.
Você pode atribuir uma tecla de atalho para isso ou usá-la em um script e criar um ativador de área de trabalho para esse script.