Será mortalmente lento, SE você conseguir que seu sistema operacional seja instalado no USB. Geralmente não é recomendado, por causa da velocidade.
Se você estiver usando o Windows 7 ou posterior, eu recomendaria o uso de VHD s para instalar seus sistemas operacionais. Se você estiver usando versões mais antigas do Windows, ou usando o Linux, eu iria verificar programas de virtualização, como VMWare Estação de trabalho ou VirtualBox (grátis)
Outro problema, dependendo do seu sistema operacional, é se ele irá ou não carregar o USB antes do gerenciador de inicialização, o que deve estar em um disco rígido interno. Finalmente, o seu BIOS suporta a inicialização de um disco rígido USB?