grep -v $pub_key /root/.ssh/authorized_keys > /tmp/authorized_keys.new
funcionaria? Você pode comparar com dois arquivos para verificar o trabalho. Dadas as longas cadeias de caracteres aleatórios que compõem as chaves, provavelmente é suficiente fazer isso usando uma substring de $ pub_key.