Quando você faz logoff, sua sessão é encerrada, ou seja, todos os programas que você estava executando e sua área de trabalho etc., e você retorna à tela de boas-vindas. O PC ainda está ligado e há aplicativos e serviços em nível de sistema em execução.
Quando você desliga, tudo pára de funcionar e o PC é desligado.