O recurso que você descreve é chamado de bloqueio de arquivo e pode ser implementado de várias maneiras, nenhuma delas especificamente incorporada ao FTP.
Se você precisar usar o protocolo FTP, o bloqueio poderá ser obtido movendo-se temporariamente o arquivo ou alterando suas permissões até que o usuário de bloqueio conclua a transação.
Existem protocolos alternativos de compartilhamento de arquivos que oferecem bloqueio embutido. Por exemplo, se você usar SVN em vez de FTP, o usuário modificador terá que fazer o check-out de um arquivo para modificá-lo e, depois de concluído, fazer check-in novamente. Há diversas implementações SVN para Windows.
Se você quiser usar o IIS, então você pode publicar os arquivos via WebDAV, a implementação do IIS WebDAV suporta o bloqueio a partir do WebDAV 7.0, veja aqui como configurá-lo.