Não, isso não é possível. A GPU não é controlada diretamente pelo sistema operacional, portanto, o mesmo tipo de multitarefa disponível para CPUs simplesmente não está disponível para GPUs. Se houver suporte multitarefa para sua GPU, ela será controlada pelo driver da placa gráfica.
De um modo geral, no entanto, uma operação da GPU é executada até que seja feita; o motorista só poderá interromper a operação.