Você não pode usar Coolbits para fazer overclock em placas baseadas no Fermi (como o gtx560), ele não é suportado pelo hardware. Sua única alternativa é exibir um firmware personalizado com uma ferramenta chamada nvflash (não disponível em servidores canônicos).
Embora uma versão linux do nvflash esteja disponível, sugere-se inicializar a partir de uma caixa DOS e usar a versão dos da mesma ferramenta. Você pode encontrar um guia muito exaustivo aqui MAS exibir um firmware personalizado é muito perigoso negócios (você pode acabar com uma placa de vídeo emparedada) e eu desencorajaria você a seguir esse caminho.