Sim, se o seu awk tiver a função system() , que pode executar comandos:
awk 'BEGIN{rc = system("test -t 1")}'
rc será o código de retorno do teste.
Existe alguma maneira de verificar se o stdout de um script AWK está anexado a um terminal, assim como test -t 1 em um shell?