Você está usando OSX 10.8 , então seu sed implement é FreeBSD sed , não GNU sed . Portanto, FreeBSD sed não interpreta \n como nova linha.
Você pode tentar:
$ sed 's/ /\'$'\n/g' myfile
$'\n/g' faz com que bash interprete a cadeia como uma expansão de escape padrão, por isso \n é convertido para nova linha antes de sed process.
ou usando tr em vez de sed :
$ tr -s ' ' '\n' < myfile