Se você estiver criando um disco USB OpenSolaris ao vivo do Windows, use o seguinte programa: link
Se você estiver criando um a partir de um ambiente unix-y, isso deve ser feito: link
Você deve ser capaz de instalar o OpenSolaris a partir de um live CD de acordo com a documentação do OpenSolaris .
(Disclaimer: Eu não sou um usuário do OpenSolaris, então eu posso ter perdido a marca em algum lugar.)