Isso foi tão fácil, estou surpreso que ninguém respondeu!
No OneNote 2010 (suponho que seja semelhante para outras versões), abra o backstage (menu Arquivo) e olhe para a direita. Há um botão chamado "Abrir backups"!
No meu sistema, isso abriu o Explorer para:
C:\Users\kevinbuchan\AppData\Local\Microsoft\OneNote.0\Backup
A recuperação foi fácil agora!