Primeiro, o Google não tem como "ver" que o telefone e o computador estão próximos uns dos outros. Claro que eles poderiam usar o GPS no seu telefone, mas não pode fazer isso para o seu PC. E, devido aos muitos outros computadores, não é possível presumir qual telefone está vinculado a qual usuário em qual computador.
O que provavelmente aconteceu é que o seu telefone está ligado à sua conta do Google do trabalho. Possivelmente, para acessar o Gmail. Se este for o caso, então é isso que está causando o link.
Outra coisa a salientar, o Google gostaria de vincular algumas buscas a IPs. (Se você não acredita em mim, vá ao YouTube em sua casa e, em seguida, em um Internet Café. Os vídeos recomendados mudam drasticamente).