Como este trecho de man ssh
afirma,
When the user's identity has been accepted by the server, the server
either executes the given command in a non-interactive session or, if no
command has been specified, logs into the machine and gives the user a
normal shell as an interactive session.
.profile
é lido apenas em shells de login interativos. Então está tudo bem. Dê uma olhada em esta resposta . Explica o que é uma shell interativa.