Pode ser apenas uma pequena coisa, mas acho que você precisa de um espaço após o -P e antes do número da porta. Ou isso é apenas um erro de transcrição?
Para evitar a conexão com outras instâncias, você pode interromper todas elas, exceto aquela em que deseja trabalhar.
Se a instância não for iniciada, não acho que a maioria das ferramentas funcionará também. Deve ter algo bastante errado para não começar. Presumivelmente, você tem uma versão mais antiga do MySQL com a qual ele irá trabalhar (que você está atualizando) - você pode executar uma instância mais antiga que não precisa de atualização e reparar todas as suas tabelas antes de tentar novamente a atualização? Ou até fazer um despejo e carregar da versão antiga para a nova (deve estar bem no que diz respeito à replicação) em vez de fazer uma atualização no local.
Você também pode tentar executar o mysqlcheck manualmente em vez de via mysql_upgrade.