Como posso calcular a média de várias colunas com o mesmo valor para as duas primeiras colunas?

3

Eu tenho um arquivo com cerca de 13 milhões de linhas como:

Lat Long    air_temp    sst wind_speed  wave_height wave_period
65.3    7.3 4.3 8.8 7.7 4   8
61.6    1.3 -9.99   8.8 9.8 4   7
61.2    1.1 -9.99   8.8 7.7 3   7
61.1    1   -9.99   8.8 8.7 3.5 7
61  1.7 -9.99   8.8 10.8    4   7
60.6    1.7 -9.99   8.8 8.2 4   10
60.6    3.7 -9.99   8.8 8.2 3.5 8
60.6    -4.9    4.7 8.8 10.3    3.5 7
60.4    1.2 5.1 7   15  2   4
59.6    2.2 2.3 7.7 4.6 3.5 9
59.5    1.6 -9.99   7.7 3.6 4   8

Eu tenho 72 arquivos com todas essas variáveis. Eu os mesclei em apenas um único e excluí os duplicados. O que tenho que fazer é quando lat e long é o mesmo para 2 linhas, tenho que calcular a média das colunas. Por exemplo:

Lat Long    air_temp    sst wind_speed  wave_height wave_period
61.1    1   -9.99   8.8 8.7 3.5 7
61.6    1.3 -9.99   8.8 9.8 4   7
61.6    1.3 3   8.6 7.7 3   7
65.3    7.3 4.3 8.8 7.7 4   8
65.3    7.3 2   4   5   2   10

O arquivo de saída será parecido com isto:

Lat Long    air_temp    sst wind_speed  wave_height wave_period
61.1    1   -9.99   8.8 8.7 3.5 7
61.6    1.3 -9.99   8.7 8.75 3.5  7
65.3    7.3 3.15 6.4 6.35 3   9

e, portanto:

  1. se air_temp = -9,99, a "média" calculada será de -9,99, pois isso mostra dados ausentes
  2. a média é calculada sobre tantos pontos que existem com o mesmo comprimento e lat - caso haja 2 pontos com as coordenadas 61.6 e 1.3, haverá apenas uma linha com as variáveis (air_temp, sst, wind_speed, wave_height e wave_period) calculados em média.

o arquivo original:

Lat Long    air_temp    sst wind_speed  wave_height wave_period 
0   0.1 22.9    22.5    7.7 1   5
0   0.2 24  26  4.6 2   6 
0   0   24.1    25.3    3   1.5 9
0   0   24.4    25.3    3   1.5 8
0   0   24.5    25.3    2   1.5 8
0   0   24.7    25.2    1   1.5 10
0   0   24.8    25.1    3   1.5 8
0   0   24.8    25.2    2   1.5 12
0   0   24.9    25.2    5   1.5 9
0   0   25.2    25.5    2   3.5 10
0   0   25  25.2    5   1.5 9
0   0   26.9    27.2    4   1.5 10
0   0   26.9    27.2    5   1.5 9
0   0   28.5    29.6    7.2 1.5 7
0   -0.2    -9.99   30.4    3.6 1.5 8
0   0.3 27  27  4.6 2   12
0   -0.3    27  27.5    5.7 1.5 8
0   0.4 23  23  8.2 1.5 3
0   0.5 24.6    25  10.3    2   6
0   0.6 26.7    27  5.1 1.5 10
0   -0.7    24  24.8    5.7 1   3
0   0.7 24  27  7.2 1.5 10
0   0.7 -9.99   28  6   1   8
0   0.8 27  28  7.2 1.5 9

Eu não sei por que ele não é classificado completamente (por que há 0,1 e 0,2 na frente), mas mesmo assim a saída desejada é:

 Lat    Long    air_temp    sst     wind_speed  wave_height     wave_period
 0  0.1     22.9    22.5    7.7     1   5
 0  0.2     24  26  4.6     2   6
 0  0   25.3916666667   25.9416666667   3.5166666667    1.6666666667 9.0833333333
 0  -0.2    -9.99   30.4    3.6     1.5     8
 0  0.3     27  27  4.6     2   12
 0  -0.3    27  27.5    5.7     1.5     8
 0  0.4     23  23  8.2     1.5     3
 0  0.5     24.6    25  10.3    2   6
 0  0.6     26.7    27  5.1     1.5     10
 0  -0.7    24  24.8    5.7     1   3
 0  0.7     -9.99   27.5    6.6     1.25    9
 0  0.8     27  28  7.2     1.5     9
    
por Roxana Radu 14.08.2017 / 20:37

1 resposta

2

Isso pode ser feito com Python como:

Código:

#!/usr/bin/python
import re
import sys

SPACES = re.compile('\s+')

data_by_lat_long = {}

with open(sys.argv[1]) as f:
    # get and print header
    line = next(f)
    print(line.strip())

    for line in f:
        data = SPACES.split(line.strip())
        data_by_lat_long.setdefault((data[0], data[1]), []).append(data[2:])

for lat_long, data in data_by_lat_long.items():
    results = zip(*data)
    if '-9.99' in results[0]:
        results[0] = ('-9.99', )
    avg = tuple(str(sum(float(x) for x in d) / len(d)) for d in results)
    print('\t'.join(lat_long + avg))

Resultados:

Lat Long    air_temp    sst wind_speed  wave_height wave_period
65.3    7.3 3.15    6.4 6.35    3.0 9.0
61.1    1   -9.99   8.8 8.7 3.5 7.0
61.6    1.3 -9.99   8.7 8.75    3.5 7.0

e

Lat Long    air_temp    sst wind_speed  wave_height wave_period
0   -0.7    24.0    24.8    5.7 1.0 3.0
0   0.1 22.9    22.5    7.7 1.0 5.0
0   0.3 27.0    27.0    4.6 2.0 12.0
0   0.2 24.0    26.0    4.6 2.0 6.0
0   0.8 27.0    28.0    7.2 1.5 9.0
0   -0.3    27.0    27.5    5.7 1.5 8.0
0   0.5 24.6    25.0    10.3    2.0 6.0
0   -0.2    -9.99   30.4    3.6 1.5 8.0
0   0.4 23.0    23.0    8.2 1.5 3.0
0   0.7 -9.99   27.5    6.6 1.25    9.0
0   0   25.3916666667   25.9416666667   3.51666666667   1.66666666667   9.08333333333
0   0.6 26.7    27.0    5.1 1.5 10.0
    
por 15.08.2017 / 16:40