Este artigo de Technet fala sobre o processo de que você precisa. Você deve ser capaz de criar várias associações "abrir com" para os tipos de arquivo desejados.
Eu testei com sucesso (com êxito) isso para uma extensão de arquivo inventada que criei renomeando um documento do notepad e foi tudo bem para mim.