$ ssh -q host true
retorna 0 se está tudo bem e 255 se a conexão expirou. Obviamente, isso só funciona se você conseguir efetuar login nesse host.
Se isso não for uma opção, algo como
$ echo "" | nc host port
me dá uma "incompatibilidade de protocolo" (e valor de retorno 0) se a conexão com o servidor for bem-sucedida e um valor de retorno de 1 se a conexão foi recusada. Você também pode usar a opção -w
para especificar um tempo limite personalizado (novamente, retornar o valor de 1 se a conexão expirar).