O ponto de minimizar é tirar a janela do caminho sem realmente sair do aplicativo, para que ele possa continuar a fazer alguma forma de trabalho (ou esperar por algum evento) em segundo plano, ou então você pode reabra a janela rapidamente e sem perder nenhum estado.
O botão Fechar por definição fecha a janela. Em alguns casos, um aplicativo possui apenas uma janela e, portanto, ele decide sair quando sua janela é fechada.
Com a memória virtual, um aplicativo minimizado que não está realmente fazendo nenhum processamento será paginado para o disco e terá um impacto muito baixo no desempenho do sistema. O dreno real no desempenho do sistema são as aplicações como verificadores de vírus que fazem uma quantidade significativa de trabalho o tempo todo em segundo plano.
Se você deseja desempenho em seu PC, não execute tantos aplicativos em primeiro lugar, nem atualize a RAM, o processador e os discos rígidos (etc.) conforme apropriado.
Seria muito fácil ligar as mensagens do Windows e converter um clique em qualquer ícone próximo em uma mensagem WM_QUIT.