O remetente transmite uma solicitação ARP (ou em IPv6, uma Solicitação Vizinhança). Basicamente, isso é um quadro que grita 'qual MAC tem esse IP?'
O proprietário desse IP responderá com um pacote quase idêntico, informando "Eu tenho este IP". Essa resposta também contém o MAC.
Isso só funciona na rede local. Para todo o tráfego IP que não está na rede local, o pacote é enviado para o gateway padrão. (E obviamente, esse gateway padrão é um computador na rede local).
Editar1: Link para o artigo da Wikipedia sobre ARP
Edit2: A requisição ARP 'who has this' é obviamente uma transmissão.