Se você estiver interessado em como os aplicativos P2P se comunicam pela Internet, isso realmente depende de qual aplicativo P2P você está falando. Todos os aplicativos P2P que eu conheço transmitem através do TCP / IP, considerando que é a base sobre a qual a Internet funciona.
Cada aplicativo se comunica através de um protocolo de rede que geralmente é feito sob medida para quem desenvolveu o aplicativo em questão. Por exemplo, o BitTorrent geralmente transmite um intervalo de portas (6881-6889) e a funcionalidade do BitTorrent em relação a como comunica através da internet é melhor resumida pela seguinte (retirada da WikiPedia)
A BitTorrent client is any program that implements the BitTorrent protocol. Each client is capable of preparing, requesting, and transmitting any type of computer file over a network, using the protocol. A peer is any computer running an instance of a client.
O mesmo pode ser dito para qualquer aplicação, seja ela baseada em servidor-cliente ou P2P ou qualquer outro tipo de topologia utilizada. Toda a comunicação acontece através de protocolos de rede que ambos os computadores entendem.