Depende.
Ele pode ser inicializado, mas executa o hardware em algum tipo de modo padrão - por exemplo, executar a placa gráfica em baixa resolução sem gráficos 3D acelerados.
Ou talvez não inicialize de jeito nenhum.
Para o Windows XP, ele provavelmente detectará a placa gráfica e outros periféricos como novo hardware e tentará carregar novos drivers, mas pode não inicializar para uma nova placa-mãe. Isso significa que, quando você reconectar o disco rígido à sua máquina original, ele tentará carregar novos drivers novamente.
Para Linux, não tenho tanta certeza, mas pode funcionar com mais frequência do que não.