A entrada para a invocação shasum na questão é test\n (com uma nova linha), não test .
Se você der test sem nova linha a shasum , obterá a mesma saída das ferramentas on-line citadas:
$ echo -n "test" | shasum -a 512
ee26b0dd4af7e749aa1a8ee3c10ae9923f618980772e473f8819a5d4940e0db27ac185f8a0e1d5f84f88bc887fd67b143732c304cc5fa9ad8e6f57f50028a8ff -
A propósito, acho que não há nada especial ou específico do MacOS sobre o shasum encontrado no MacOS; Acho que shasum faz parte da distribuição padrão do Perl - instalado junto com, por exemplo, o comando perl .