Você não pode combinar aritmética complexa e aritmética matricial no Excel porque as funções complexas retornam resultados em formato de texto, enquanto as funções matriciais exigem entrada numérica.
Mathematica (uma aplicação comercial) e Wolfram Alpha (mecanismo on-line dos criadores do Mathematica) lida com aritmética de matriz complexa. Tente colocar
{{(0+1i),-1},{1,0}}.{{(2-5i),2},{3,4}}
no Wolfram Alpha. Ele retorna o resultado (e muitos outros tipos de informação) no formato gráfico, mas você também pode convertê-lo para o formato de texto do Mathematica.