Se eu entendi corretamente, não acho que o SUMIF seja o caminho a seguir.
Eu adicionaria uma coluna auxiliar entre seu D & E assim:
A B C D E F
1 4 7 A x 30
2 5 8 C x
3 6 9 x
Na coluna E, onde adicionei 'x' como espaço reservado, insira esta fórmula (na célula E2 e copie para baixo):
=IFERROR(SUM(INDIRECT(D2&":"&D2)),0)
Isso simplesmente soma os totais de cada coluna que você especificar na coluna D como seus critérios. Onde não há critérios para essa linha, você tem o fallback 0 chamado por IFERROR.
Finalmente, na célula F2, você pode somar todos esses subtotais:
=SUM(E:E)
Sua mesa final ficará assim:
A B C D E F
1 4 7 A 6 30
2 5 8 C 24
3 6 9 0