Existem duas maneiras de fazer isso:
A maneira correta - execute o aplicativo como um serviço.
O caminho rápido e sujo - execute o aplicativo como uma tarefa agendada. Uma das opções de agendamento é para quando o computador é iniciado.
Não espere que uma dessas soluções funcione bem com um aplicativo que precisa ser interativo.