NT系では子キーや値があると削除されませんが、9x系では削除されます*1。CEでも削除されます*2。CEでないならSHDeleteKeyとSHDeleteEmptyKeyを使ったほうが手っ取り早いです。
*1 ここまではドキュメントに書いてあります
*2 なぜかこれは書かれていません