Mesclando duplicatas parciais

Question

Eu tenho um arquivo csv com quatro colunas como esta

aa,bb,cc,dd  
ee,bb,cc,dd  
ff,bb,cc,dd  
xx,11,22,33  
yy,11,22,33  

Eu gostaria de transformá-lo em:

aa,ee,ff,bb,cc,dd  
xx,yy,11,22,33  

Basicamente, encontre as linhas nas quais as últimas 3 colunas são idênticas e mescle o primeiro campo.

Alguém sabe como fazer isso no bash ou no Python?

    

Answer 1

Perl

O hash %h contém os dados, enquanto o array @h gerencia a ordem em que os elementos hash foram encontrados. OTW, as chaves hash serão selecionadas em ordem aleatória.

perl -F, -lane '
   BEGIN{ $"=$,=","; }
     push @{$h{"@F[-3..-1]"}}, $F[0];
     $h[-1+keys %h] = "@F[-3..-1]";
   END{ print  @{$h{$_}}, $_ for @h; }
'  yourcsvfile

Sed

sed -e '
   :loop
      $!N
      s/^\(.*\)\(\(,[^,]*\)\{3\}\)\n\([^,]*\)$/,/
   tloop
   P;D
'  yourcsvfile

Bash

sed \$G yourcsvfile | # we add a dummy line to signal last record has been processed
while IFS=, read -r -a A; do
   var=${A[@]: -3:3}
   var=${var// /,}
   case $var in
      "$prev" ) x=${x-}${x:+,}${A[0]} ;;
      * ) case $prev in ?* ) echo "$x,$prev" ;; esac; prev=$var; x=${A[0]} ;;
   esac
done

    

Answer 2

Aqui está um programa awk para isso:

#!/bin/awk -f
BEGIN {OFS = FS = ","}
{
    gsub(/ +$/, "", $4)
    field = $2","$3","$4
    if (field in a)
        a[field] = a[field]","$1
    else
        a[field] = $1
}
END { for (i in a) print a[i], i}

E o programa de bônus em python:

from collections import OrderedDict

records = OrderedDict()
for line in open('file1'):
    field, key = line.strip().split(',', 1)
    records.setdefault(key, []).append(field)
for key, fields in records.items():
    print(','.join(fields + [key]))

resultado:

aa,ee,ff,bb,cc,dd
xx,yy,11,22,33