Existem duas maneiras de resolver isso:
A função expand() interna lida com caracteres especiais e curingas como o shell:
let coffee_compiler = expand('~/repos/coffee-script/bin/coffee')
Ou, como ~ corresponde à variável de ambiente HOME , você pode concatenar seu valor:
let coffee_compiler = $HOME . '/repos/coffee-script/bin/coffee'