Duas coisas podem estar falhando. Primeiro, o sistema pode ser instalado incorretamente no seu USB e, em segundo lugar, a placa não pode estar tentando inicializar a partir do USB. Sem mais informações sobre o erro ou as configurações em sua placa, é muito difícil determinar qual é o problema. Tente expandir sua pergunta com mais detalhes.
Você pode instalar o Ubuntu em um DVD-RW, sim.