However I can still hear the hard drive spinning sometimes, particularly for the first 30 or so seconds after coming out of sleep/boot etc.
Na verdade, não há relação de disco rígido girando com a instalação do Linux para outro SSD. Enquanto a unidade estiver ligada fisicamente e o sistema estiver ativo, continuará girando. Se você usar qualquer modo de economia de energia, ele deverá desligar a unidade, fazendo com que ela desacelere. Mas isso deve acontecer depois que você logar completamente no sistema operacional. Mas você não pode parar de girar fisicamente sem cortar a conexão de energia do disco rígido da fonte de alimentação.
Is there a way to make linux ignore the disk, so it never spins up?
Sim, isso é possível de alguma forma. Esta página tem um bom artigo descrevendo a solução que você estava procurando. Siga a seção Girar esses HDDs nessa página. Mas eles também mencionaram o risco de fazê-lo em algum disco rígido. Então, leia o artigo com atenção.
Can it be done while still mounting a data partition, such that it spins up before doing any data read/writes?
O artigo mencionado acima descreve todos os prós e contras de fazê-lo. Então, você pode encontrar sua resposta lá. Além disso, aqui é outro artigo que pode ajudá-lo.