Não tenho certeza se isso é possível usando o recurso de macro "ações" do PS. É certamente possível com o GIMP que tem suporte de programação completo nativamente.
No entanto, você já tentou usar algo como AutoHotKey para gerar uma macro de teclado e / ou mouse? Certamente tem as capacidades lógica e variável, você só precisa ter certeza de que você pode controlar o PS corretamente. Eu fiz isso com inúmeras aplicações no passado, mas não com o PS.
ATUALIZAÇÃO: Dados seus problemas com o Windows não alinhando, a única maneira que as macros AHK funcionariam para você seria se tudo pudesse ser feito via teclado. Embora eu assuma que você notou que o controle do mouse é relativo à janela pai?
No GIMP, você pode fazer macros usando "script-fu", as macros são escritas em uma linguagem chamada "esquema", embora haja um número de sites com muitos exemplos. Aqui por exemplo. Se você precisar ir mais longe, você pode escrever seus próprios plugins usando Python. O site de documentação do GIMP tem alguns detalhes. Novamente, há muitos sites com exemplos. Experimente e, talvez, elabore uma pergunta nova e mais específica à medida que você fica preso;)
Para o Photoshop, aqui é a referência que perdi da última vez. Graças ao Alan por apontar, já faz muito tempo desde a última vez que usei o Photoshop.