Um sistema operacional não é exatamente um tipo de arquivo, ele é composto de vários tipos diferentes de arquivos trabalhando juntos para criar algo maior. Parece que você está procurando ser capaz de inicializar em um sistema operacional a partir de uma unidade flash; nesse caso, você pode estar procurando um arquivo .iso que possa ser inicializado.
Se você estiver tentando inicializar em uma plataforma Windows via USB, precisará obter um arquivo .ISO on-line ou diretamente de um CD / DVD. Tenha em mente que você precisará de uma chave de produto válida para instalar o sistema operacional.
Aqui está um pouco mais detalhadamente e guia sobre a criação de uma unidade flash inicializável para Windows: link
Aqui estão mais detalhes / guias sobre drives flash inicializáveis do Ubuntu (linux): link