Depende das tecnologias que você está comparando, mas para o seu argumento, vamos supor que você esteja apenas comparando as peças dedicadas top de linha com as partes integradas top de linha.
Uma placa dedicada de geração atual pode ser adicionada a praticamente qualquer PC de geração atual, ao passo que um núcleo gráfico integrado precisa ser projetado em um nível muito mais baixo para ser integrado ao pacote de CPU (ou, em dias mais antigos, placa mãe). Como as tecnologias de CPU e GPU não avançam no mesmo ritmo, há sempre algum atraso na obtenção da tecnologia mais recente no núcleo gráfico que está integrado ao pacote da CPU.
Outra questão é o resfriamento. As GPUs dedicadas de maior desempenho geram muito mais calor do que suas contrapartes integradas. À medida que você gera mais calor, fica mais difícil resfriar adequadamente o hardware usando um dissipador de calor e um ventilador convencionais.