IsDialogMessageのエミュレーションを書いてみました。主にはTAB, ENTER, ESCとカーソルキーの処理およびニーモニックの処理なのですが、フォーカスのあるコントロールの種類によって動作が異なるケースもあるので、WM_GETDLGCODEを送りつけて返り値で処理を変えたりとなかなか大変です。さらに、ダイアログが二つある事になるので、デフォルトボタンの切り替え処理もやらなくてはいけません。
なんとなく動くようになりましたが、細かい部分は標準と微妙に違うかも。