Se você não precisa salvar arquivos no seu pen drive, não precisa fazer nada. Não execute o instalador a partir do sistema de pen drives.
Se você fizer precisar salvar arquivos no seu pen drive, veja esta questão . Você vai querer criar uma área persistente no seu pen drive. A instalação pode ser semelhante à maneira como você criou o thumb drive do Ubuntu, embora eu não tenha certeza se os métodos lá funcionarão no OS X. Se precisar de mais ajuda com isso, você pode expandir sua pergunta aqui ou postar uma nova. . Isso não envolverá a execução do instalador dentro do sistema de pen drives, e ao usar um sistema com uma área persistente, você ainda não executará isso.
Em qualquer caso, você está certo em pensar que clicar em Instalar o Ubuntu dentro do sistema thumbdrive pode sobrescrever dados no seu disco rígido . Você pode instalar o Ubuntu em seu disco rígido sem sobrescrever dados, clicando nele e tomando muito cuidado para dizer ao Ubuntu para instalar ao lado do seu sistema existente. Mas se você não quiser o Ubuntu em outro disco, não use "Instalar o Ubuntu" no sistema thumbdrive.
Se você deseja instalar o Ubuntu em um thumbdrive segundo , uma das suas opções é usar o "Instalar o Ubuntu", embora eu suspeite que o sistema tenha sido produzido dessa maneira, quando instalado em uma unidade conectada para um Mac via USB, não irá arrancar.