Não deve haver razão para que isso não seja possível. Seu Debian vai precisar de suas próprias partições e você precisa escolher quanto espaço você quer dar à instalação Debian. Quanto espaço você quer deixar para o armazenamento do OS X, é com você, no entanto, a partição raiz do Debian vai precisar de algum espaço dedicado.
Existem várias maneiras de fazer isto, e uma coisa que vale a pena considerar é se você precisa de uma partição de sistema de arquivos gravável de ambos os sistemas operacionais (é possível, mas você não pediu especificamente por isso, então eu não vou para responder isso).Resumindo, eu pensaria assim:
- Re-particione o HDD do OS X. Reduza o tamanho da partição de armazenamento para que você tenha espaço não provido para a instalação Debian.
- Instale o Debian (ou qualquer outra distribuição Linux de sua escolha)
- Se o Debian não puder instalar um gerenciador de boot funcional para você, instale o ReFind posteriormente. Eu acho que funciona melhor para o Linux / OS X de inicialização dupla.