Usando Pipes Nomeados no Bash criado em um Programa C

Question

Eu tenho um código em C que recebe uma entrada bastante grande. Em cada iteração, ele processa um pequeno pedaço dele e deve enviar esse fragmento processado para S3 usando curl. No final, ele irá gerar um número desses pequenos pedaços e a entrada grande seria completamente processada. Onde estou tendo problema é a parte em que o script bash chama o pipe nomeado que eu uso para enviar o fragmento processado para o S3 em separado.

Como posso chamar o script bash em C e como posso enviar os dados dentro do named pipe para enrolar usando o bash?

Compartilharei apenas a parte relacionada do código para mantê-lo limpo.

#define FIFO_NAME "my_fifo"
int i,j,k;
char *d_ptr; //dummy pointer for frame set
int res;
/* create the FIFO (named pipe) */

if (access(FIFO_NAME, F_OK) == -1) {
    res = mkfifo(FIFO_NAME, 0777);
    if (res != 0)
    {
        fprintf(stderr, "Could not create fifo %s\n", FIFO_NAME);
        exit(EXIT_FAILURE);
    }
}
res = open("test_fifo", O_WRONLY);
d_ptr=(char *) compressed_queue;
if(m_ptr-m_ptr_initial==0 | m_ptr-m_ptr_initial>MAX_MESSAGE_LENGTH-FLENGTH*sizeof(float) | number_of_frames>MAX_FRAME_NUMBER)//sends message when the chunk is ready and adds its prefix
{

    for(j=0;j<m_ptr-m_ptr_initial;j++)//sends message as stdout
    {

        /* write to the FIFO */
        write(res, m_ptr_initial[j], sizeof(char));

    }
    if (res != -1)
        (void)close(res);

Além disso, o script bash é o seguinte.

#!/bin/bash
while true
do
    TIMER=renesas-$(date +"%H-%M-%S").txt
    echo $TIMER
    ./Compression
    my_fifo| curl -X PUT --data-binary @- 54.231.19.24/{somePublicBucket}/device1/${TIMER}
done

    

Answer 1

Existem dois erros no seu código:

1. write(…, sizeof(char)); só grava "sizeof (char)" bytes (= provavelmente 1 ou 2 bytes) no FIFO, e não o tamanho do buffer como você provavelmente pretendia

2. my_fifo | não lerá nenhum dado do FIFO; você precisará cat pelo menos.

Como a chamada para write será bloqueada até que o script leia os dados (e vice-versa!), sugiro colocar a operação de gravação e a execução do script em dois processos ou encadeamentos diferentes (há outras possibilidades como bem, por exemplo, escrever sem bloqueio, tudo depende do seu design pretendido). O exemplo a seguir demonstra o princípio, usando a chamada do sistema fork para simplificar:

#include <sys/types.h>
#include <sys/stat.h>
#include <unistd.h>
#include <stdlib.h>
#include <stdio.h>
#include <fcntl.h>
#include <string.h>
#include <assert.h>

#define FIFO_NAME "./my_fifo"

int main() {
    int res, fifo, pid;
    char *str = "Hello World!\n";

    /* Fork this process into a reader and a writer */
    fprintf(stderr, "Forking process\n");
    pid = fork();
    assert(pid >= 0);

    if (pid == 0) {
        /* The reader calls a shell script supposed to read the data from the FIFO */
        printf("Starting shell script\n");
        system("./tst.sh");
    }
    else {
        /* Create FIFO */
        fprintf(stderr, "Creating FIFO\n");
        remove(FIFO_NAME);
        res = mkfifo(FIFO_NAME, 0777);
        assert(res == 0);

        /* Open FIFO */
        fprintf(stderr, "Opening FIFO\n");
        fifo = open(FIFO_NAME, O_WRONLY);
        assert(fifo != 0);

        /* The writer opens the FIFO and writes some data to it */
        printf("Writing to FIFO\n");
        res = write(fifo, str, strlen(str));
        assert(res > 0);
        close(fifo);
    }
}

E o script de shell tst.sh contém:

#!/bin/sh
echo "Started shell script"
cat ./my_fifo

A saída do programa C é:

Forking process
Creating FIFO
Opening FIFO
Starting shell script
Started shell script
Writing to FIFO
Hello World!