O que você quer dizer com "unir as duas unidades"? Você quer ter uma partição "virtual" em dois discos físicos? Então provavelmente você deve procurar no Google LVM (nunca usei, então é tudo que posso dizer).
Mas por que você quer mesclar os dois discos? Se eu fosse você, usaria o SSD rápido para alguns dados selecionados (para inicialização rápida ou qualquer outra coisa) e HDD para o resto. Quando eles são mesclados, você não pode controlar onde seus dados estão armazenados e você não se beneficia de ter SSDs rápidos (a menos que tenha muita sorte).
Se o motivo da fusão é que você não gosta de muitas partições lógicas no seu computador, então você não precisa se preocupar: no linux você normalmente não navega com drives, mas com uma estrutura de diretório virtual (veja o próximo parágrafo). Portanto, algumas montagens inteligentes podem ser uma solução: você pode montar seu SSD em alguma pasta (por exemplo, dentro de outra pasta armazenada fisicamente no HDD!) (Ou até mesmo dividi-lo em partições e montar em várias pastas).
Finalmente: se - como você disse - você está instalando o Ubuntu no SSD, então você pode simplesmente usar o esquema padrão: coloque seu ubuntu (diretório "/" chamado root) no SDD (24 GB deve é suficiente desde a minha instalação antiga é de 16 GB) e sua pasta pessoal ("/ home") no HDD. Todos os seus dados pessoais serão armazenados em um lugar (casa) e você se beneficiará de ter arquivos de sistema em um SSD rápido (não sei se é a melhor maneira de utilizar o SSD, mas com certeza é o mais simples).