Eu não acho que isso seja possível, porque sempre pode haver apenas uma janela que receba entradas de mouses e teclados, ou seja, uma janela que tenha o foco.
Mas você pode executar o programa que deseja automatizar em um X-server separado. Então faça
X :1 &
export DISPLAY=:1
myprogram &
xdotool …
Dessa forma, você também pode usar a tela inteira. A desvantagem dessa abordagem é que você ainda não consegue ver sua área de trabalho comum e a controlada ao mesmo tempo. Então, inicie os comandos xdotool do novo X-server e deixe-os rodando em segundo plano, ou use uma ferramenta chamada xpra
. Ele permite que você execute um novo X-server virtual e conecte-se a ele a partir do X-server padrão. Para configurá-lo você corre
xpra start :1
export DISPLAY=:1
myprogram &
e para ver a execução do programa
xpra attach
de outro terminal no servidor X original.