O que você está fazendo não faz sentido - pare agora.
A porta RJ11, em qualquer caixa, é para o link DSL SOMENTE , conecta via seu filtro à sua linha telefônica e depois para o DSLAM usando PPOA - não tem nada a ver com ethernet ok .
Você simplesmente precisa conectar suas máquinas juntas via IP e configurá-las para rotear entre si - se você não puder fazer isso, sugiro que faça essa pergunta modificada em nosso site superusuário.com, que é um fórum muito melhor para esse tipo de pergunta. Por favor, leia as nossas FAQs antes de fazer perguntas na próxima vez.