Computadores "normais"
Sem um sistema operacional, você não pode executar um programa que foi gravado para ser executado em um sistema operacional. A maioria dos programas é desse tipo.
Você poderia escrever um programa que fosse executado sem um sistema operacional, mas isso seria uma tarefa muito difícil, principalmente porque o sistema operacional fornece drivers para todo o hardware. Sem o sistema operacional, seu programa teria que direcionar o hardware específico diretamente. Nem todos os fabricantes de hardware divulgam detalhes de como fazer isso (por exemplo, nVidia), mas apenas fornecem drivers para sistemas operacionais específicos.
Você também tem o problema de como fazer com que o computador carregue e execute seu programa. Com a maioria dos computadores de mesa, você teria que colocar o programa onde o BIOS esperaria encontrar um carregador de sistema operacional.
É provável que você tenha que escrever o programa em uma linguagem de baixo nível - assembler ou talvez algo como C sem nenhuma biblioteca padrão que seja dependente do SO.
Microcontroladores
Você pode escrever programas para coisas como o Arduino sem qualquer sistema operacional no Arduino. existem kits de desenvolvimento que permitem escrever código em linguagens de alto nível, os kits de desenvolvimento geralmente fornecem o equivalente de drivers para o hardware específico.
Sistema Operacional
Você pode redefinir o "Sistema operacional" de maneira a invalidar todos os itens acima. Estou supondo que você quer dizer software comparável aos sistemas operacionais Windows ou Linux.