Acho que a ferramenta mais conhecida para fazer isso é chamada pconsole .
pconsole allows you to connect to each node of your cluster simultaneously, and you can type your administrative commands in a specialized window that 'multiplies' the input to each to the connections you have opened.
Ele foi desenvolvido para clusters, mas acho que deve funcionar como você pretendia.
ClusterSSH também vem à mente.