Isso é apenas suposição, mas suspeito que o problema tenha mais a ver com a invocação de aplicativos no Mac OS X e a maneira como o which funciona. Como outros comentaram, o sistema de arquivos é o que torna as coisas insensíveis a maiúsculas e minúsculas. which é um pouco burro; ele mostrará apenas onde estão os binários executáveis no caminho de execução do seu shell. Por alguma razão, você tem /Applications lá, mas isso não está certo - muitos aplicativos no OS X podem invocar o binário subjacente no "pacote" .app do aplicativo, mas o evento é claramente disparado pelo reconhecimento do sistema de os arquivos .plist associados e tudo o mais que compõe o aplicativo inteiro.
Portanto, quando você usa which , ele mostra o arquivo binário que seu terminal tentará executar, mas, ao fazer isso, deixa de fora todas as bibliotecas de aplicativos e arquivos de configuração necessários para fazê-lo funcionar em seu ambiente. Observe que isso não se aplica aos comandos em /usr/bin ou a qualquer coisa construída com MacPorts. Então, como uma alternativa, você também pode tentar o vlc (ou o Mplayer!) Através de um sistema de pacotes externo, mas você provavelmente irá abri-lo no X ao invés de usar o aplicativo.
Se você quiser usar qualquer pacote .app na linha de comando do Mac OS X, aconselho-o a seguir as instruções listadas aqui , e use o comando open do Mac bastante versátil.