Meu palpite é que você precisa adicionar uma partição swap ou matar a instalação incompleta, para que ela possa começar de novo. Você não deveria ter chegado tão longe, e talvez devesse registrar um bug no instalador - ele deve insistir em uma partição swap (ela pode ser pequena).
Inicialize a partir de um CD ao vivo e use o Disk Utility para reparticionar seu espaço livre para que haja algo que possa ser usado como swap. Você provavelmente precisará adicioná-lo a /etc/fstab na partição de inicialização principal.
Você precisa de uma linha como esta:
/dev/sdb5 none swap sw 0 0
Isso está bastante envolvido, e pode não ser exatamente como descrevi, mas pode ser o suficiente para você seguir em frente. Certifique-se de não danificar sua partição do Windows ou o setor de inicialização da unidade. Você pode precisar montar a partição do Ubuntu antes de poder editar o fstab, e pode aparecer em media/drive_name/etc/fstab do live CD.