A razão pela qual você perde a internet é porque quando você se conecta a duas redes, você teria duas rotas, uma através do pendrive e outra através do adaptador wifi. Existem algumas opções.
Altere a prioridade do adaptador:
Navigate to Control Panel\Network and Internet\Network Connections
Press the 'Alt' key to reveal the menus Click on 'Advanced'
Click on 'Advanced Settings'
Under Connections, select your USB stick and use the up button to increase it's priority.
Use um endereço IP estático no seu wifi:
Determine what IP address range your WiFi is on (probably 192.168.0.x or 192.168.1.x) by using IPCONFIG from a CMD prompt
Navigate to Control Panel\Network and Internet\Network Connections
Go to your Wi-Fi adapter, right click and click Properties
Click on Internet Protocol Version 4, and click Properties
Click 'Use the following IP address' and enter your IP address, and Subnet Mask (LEAVE Default Gateway BLANK)
Click on 'Use the following DNS Servers' and enter your DNS Server
Agora, o seu computador será capaz de se comunicar com a Internet através do seu pendrive e da sua lan via wifi.