O endereço IP público é conhecido pela Internet e o endereço IP privado existe apenas na sua rede local. Uma analogia clássica é que o endereço IP público é como o endereço físico de um complexo de apartamentos e os endereços IP privados são como os números das unidades de apartamentos individuais. A internet só vê o endereço público geral, mas seu roteador conhece todos os seus endereços IP privados locais e pode direcionar as coisas de acordo. Então imagine a internet (mailman) deixando um pacote para o IP público do roteador (escritório em apartamento) porque esse é o único endereço que ele conhece; o roteador (escritório de apartamento) então descobre para qual computador (unidade de apartamento) o pacote deve ir.
O endereço público é atribuído pelo seu provedor de serviços de Internet. Você pode descobrir o que é seu perguntando "qual é o meu ip?" em uma pesquisa no google. O IP privado é atribuído pelo seu roteador e é apenas local. Um computador com apenas um IP privado pode ou não ter acesso à Internet porque o IP privado apenas o relaciona com o roteador, que pode ou não fornecer acesso à Internet.
Uma pesquisa no google retornará muitas boas explicações sobre essas diferenças.