Apenas mova a parte <<< $client do conjunto ' s:
#!/bin/bash
client='cat temp.txt'
ssh [email protected] 'while read line; do mkdir -p /tmp/$line ; done' <<< "$client"
OBS: também faltou / na shebang. Use #!/bin/bash em vez de #!bin/bash