Contanto que você desligue o computador primeiro e depois desligue a fonte de alimentação (a chave na parte de trás se o computador tiver uma), então você deve estar bem. É uma boa idéia deixar o computador conectado e desligá-lo, porque ele permanece aterrado. Se não houver interruptor na parte de trás, desligue-o completamente. Certifique-se de manter contato com o gabinete para equalizar qualquer diferença de potencial elétrico entre você e o computador. Também não toque diretamente em nenhum conector ou você poderá descarregar eletricidade estática.
Se não for absolutamente necessário, eu não recomendaria remover o disco rígido, eles geralmente não geram muito calor.