quanto tempo você fica nessa tela preta até você sair?
Considere que a conexão USB é mais lenta que a sata e levará algum tempo para inicializar.
Não posso ter 100% de certeza de que não é um problema de instalação, portanto você pode tentar editar os arquivos na unidade flash com algum software para ler o sistema de arquivos ext4 no Windows.
Há um ano atrás eu instalei o ubuntu em uma unidade externa por conexão USB e não tive nenhum problema com a instalação nem com o sistema. Pode ser que você possa tentar instalar o Ubuntu novamente.