Eu não estou em um Mac agora, então não posso verificar, mas isso deve funcionar:
open -a /Applications/Emacs.app --args --debug-init
Nota: requer o Snow Leopard e mais tarde.
EDIT: Você também pode tentar isso:
/Applications/Emacs.app/Contents/MacOS/emacs --debug-init
Se isso não funcionar, tente capitalizar o "E" em "emacs". (Não tenho certeza de como o Emacs.app é estruturado internamente, mas o executável principal provavelmente deve ser um dos dois.)