>Exceptionの内容から、出力ファイルである.astaが他のプロセスで開かれていた可能性があります。
>astha* professional本体もしくは別のコマンドプロンプトで当該.astaファイルが開かれていないかご確認いただけないでしょうか。

回答ありがとうございます。
もう一度試してみました。

Windowsを再起動して、アプリケーションを起動せずに、「run.bat C:\output\xml C:\hoge.asta」実行⇒ProjectLockedException

あらかじめastahでC:\test.astaを生成しておいて、「run.bat C:\
output\xml C:\test.asta」を実行⇒ProjecLockedException

なのでロックされているのとも違うようです。

一度astahとDoxygenを再インストールしてみたほうがよろしいでしょうか？