Isso é descrito no Manual do Emacs para iniciantes .
Com a linha
(setq auto-mode-alist (cons '("README" . text-mode) auto-mode-alist))
Você diz ao emacs para entrar em "modo de texto" se você abrir um arquivo chamado README.
com
(setq auto-mode-alist (cons '("\.html$" . html-helper-mode) auto-mode-alist))
(setq auto-mode-alist (cons '("\.htm$" . html-helper-mode) auto-mode-alist))
você diz ao emacs para digitar "html-helper-mode" se o arquivo tiver o nome * .html ou * .htm
em stackoverflow há um exemplo, que arquivos highligts * .emacs como lisp.code:
(setq auto-mode-alist
(append '((".*\.emacs\'" . lisp-mode))
auto-mode-alist))