Compre um pendrive com uma chave física "Protegido contra gravação". Eu usei um no passado e fui incapaz de escrever casualmente enquanto o interruptor estava na posição correta. É claro que, se você quiser inicializar a partir dele, é necessário usar um SO tolerante ao estado somente leitura, como um LiveCD. Eu não sei qual sistema operacional você está usando atualmente, mas você tem algumas opções.