Simultaneamente lendo / escrevendo no mesmo socket unix?

7

Está tudo bem para dois ou mais processos simultâneos de leitura / gravação no mesmo unix socket ?

Eu fiz alguns testes.

Aqui está o meu sock_test.sh , que gera 50 clientes, cada um dos quais escreve 5K simultaneamente:

#! /bin/bash --

SOC='/tmp/tst.socket'

test_fn() {
  soc=$1
  txt=$2
  for x in {1..5000}; do
    echo "${txt}" | socat - UNIX-CONNECT:"${soc}"
  done
}

for x in {01..50}; do
  test_fn "${SOC}" "Test_${x}" &
done

Eu então crio um unix socket e capturo todo o tráfego para o arquivo sock_test.txt :

# netcat -klU /tmp/tst.socket | tee ./sock_test.txt

Por fim, executo meu script de teste ( sock_test.sh ) e monito na tela todos os 50 funcionários que estão fazendo seu trabalho. No final, verifico se todas as mensagens chegaram ao destino:

# ./sock_test.sh
# sort ./sock_test.txt | uniq -c

Para minha surpresa, não houve erros e todos os 50 funcionários enviaram com sucesso todas as 5 mensagens.

Suponho que devo concluir que a gravação simultânea em unix sockets está OK?

Meu nível de simultaneidade foi muito baixo para ver colisões?

Há algo de errado com o meu método de teste? Como então eu testei corretamente?

EDITAR

Seguindo a excelente resposta a essa pergunta, para aqueles mais familiarizados com python , há minha bancada de testes:

#! /usr/bin/python3 -u
# coding: utf-8

import socket
from concurrent import futures


pow_of_two = ['B','KB','MB','GB','TB']
bytes_dict = {x: 1024**pow_of_two.index(x) for x in pow_of_two}
SOC = socket.socket(socket.AF_UNIX, socket.SOCK_STREAM)
SOC.connect('/tmp/tst.socket')


def write_buffer(
    char: 'default is a' = 'a',
    sock: 'default is /tmp/tst.socket' = SOC,
    step: 'default is 8KB' = 8 * bytes_dict['KB'],
    last: 'default is 2MB' = 2 * bytes_dict['MB']):

    print('## Dumping to the socket: {0}'.format(sock))
    while True:
        in_memory = bytearray([ord(char) for x in range(step)])
        msg = 'Dumping {0} bytes of {1}'
        print(msg.format(step, char))
        sock.sendall(bytes(str(step), 'utf8') + in_memory)
        step += step
        if last % step >= last:
            break


def workers(concurrency=5):
    chars = concurrency * ['a', 'b', 'c', 'd']
    with futures.ThreadPoolExecutor() as executor:
        for c in chars:
            executor.submit(write_buffer, c)


def parser(chars, file='./sock_test.txt'):
    with open(file=file, mode='rt', buffering=8192) as f:
        digits = set(str(d) for d in range(0, 10))
        def is_digit(d):
            return d in digits
        def printer(char, size, found, junk):
            msg = 'Checking {}, Expected {:8s}, Found {:8s}, Junk {:8s}, Does Match: {}'
            print(msg.format(char, size, str(found), str(junk), size == str(found)))
        char, size, found, junk = '', '', 0, 0
        prev = None
        for x in f.read():
            if is_digit(x):
                if not is_digit(prev) and prev is not None:
                    printer(char, size, found, junk)
                    size = x
                else:
                    size += x
            else:
                if is_digit(prev):
                    char, found, junk = x, 1, 0
                else:
                    if x==char:
                        found += 1
                    else:
                        junk += 1
            prev = x
        else:
            printer(char, size, found, junk)


if __name__ == "__main__":
    workers()
    parser(['a', 'b', 'c', 'd'])

Em seguida, na saída, você pode observar linhas como as seguintes:

Checking b, Expected 131072  , Found 131072  , Junk 0       , Does Match: True
Checking d, Expected 262144  , Found 262144  , Junk 0       , Does Match: True
Checking b, Expected 524288  , Found 219258  , Junk 0       , Does Match: False
Checking d, Expected 524288  , Found 219258  , Junk 0       , Does Match: False
Checking c, Expected 8192    , Found 8192    , Junk 0       , Does Match: True
Checking c, Expected 16384   , Found 16384   , Junk 0       , Does Match: True
Checking c, Expected 32768   , Found 32768   , Junk 610060  , Does Match: True
Checking c, Expected 524288  , Found 524288  , Junk 0       , Does Match: True
Checking b, Expected 262144  , Found 262144  , Junk 0       , Does Match: True

Você pode ver que a carga útil em alguns casos ( b , d ) está incompleta, no entanto, fragmentos ausentes são recebidos posteriormente ( c ). Matemática simples prova isso:

# Expected
b + d = 524288 + 524288 = 1048576
# Found b,d + extra fragment on the other check on c
b + d + c = 219258 + 219258 + 610060 = 1048576
Portanto, a gravação simultânea em unix sockets é OK NÃO OK.

    
por NarūnasK 11.05.2017 / 13:26

1 resposta

5

Essa é uma linha de teste muito curta. Tente algo maior que o tamanho do buffer usado por netcat ou socat e enviando essa sequência várias vezes a partir de várias instâncias de teste; aqui está um programa sender que faz isso:

#!/usr/bin/env expect

package require Tcl 8.5

set socket    [lindex $argv 0]
set character [string index [lindex $argv 1] 0]
set length    [lindex $argv 2]
set repeat    [lindex $argv 3]

set fh [open "| socat - UNIX-CONNECT:$socket" w]
# avoid TCL buffering screwing with our results
chan configure $fh -buffering none

set teststr   [string repeat $character $length]

while {$repeat > 0} {
    puts -nonewline $fh $teststr
    incr repeat -1
}

E, em seguida, um launcher para chamar isso várias vezes (25) usando diferentes caracteres de teste de grande comprimento (9999) várias vezes (100) para, com sorte, passar por qualquer limite de buffer:

#!/bin/sh

# NOTE this is a very bad idea on a shared system
SOCKET=/tmp/blabla

for char in a b c d e f g h i j k l m n o p q r s t u v w x y; do
    ./sender -- "$SOCKET" "$char" 9999 100 &
done

wait

Hmm, eu não tenho um netcat esperançosamente nc no Centos 7 será suficiente:

$ nc -klU /tmp/blabla > /tmp/out

E, em seguida, em outro lugar, nós fornecemos dados para isso

$ ./launcher

Agora, nosso /tmp/out será estranho, pois não há novas linhas (algumas coisas são baseadas em novas linhas para que novas linhas possam influenciar os resultados dos testes, veja setbuf(3) para o potencial de buffer) precisa de código que procure por uma mudança de um caractere e conte quanto tempo a sequência anterior de caracteres idênticos era.

#include <stdio.h>

int main(int argc, char *argv[])
{
    int current, previous;
    unsigned long count = 1;

    previous = getchar();
    if (previous == EOF) return 1;

    while ((current = getchar()) != EOF) {
        if (current != previous) {
            printf("%lu %c\n", count, previous);
            count = 0;
            previous = current;
        }
        count++;
    }
    printf("%lu %c\n", count, previous);
    return 0;
}

Oh, garoto C! Vamos compilar e analisar nossa saída ...

$ make parse
cc     parse.c   -o parse
$ ./parse < /tmp/out | head
49152 b
475136 a
57344 b
106496 a
49152 b
49152 a
38189 r
57344 b
57344 a
49152 b
$ 

Uh-oh. Isso não parece certo. 9999 * 100 deve ser 999.900 de uma única letra em uma linha e, em vez disso, temos ... não isso. a e b foram iniciados cedo, mas parece que r conseguiu algumas capturas iniciais. Isso é agendamento de tarefas para você. Em outras palavras, a saída está corrompida. Que tal perto do final do arquivo?

$ ./parse < /tmp/out | tail
8192 l
8192 v
476 d
476 g
8192 l
8192 v
8192 l
8192 v
476 l
16860 v
$ echo $((9999 * 100 / 8192))
122
$ echo $((9999 * 100 - 8192 * 122))
476
$

Parece que o 8192 é o tamanho do buffer neste sistema. Em todo o caso! Sua entrada de teste foi muito curta para passar os comprimentos de buffer e dá a falsa impressão de que várias gravações de clientes estão corretas. Aumente a quantidade de dados dos clientes e você verá resultados mistos e, portanto, corruptos.

    
por 11.05.2017 / 16:28