Le bug décrit dans ce précédent post et son impact dans l'utilisation de CodeDom vient d'être fermé sur Connect. La solution adoptée par Microsoft est de ne pas modifier le comportement du compilateur mais de mettre à jour la documentation. Ils ont donc choisi la moins mauvaise des solutions possibles, et je suppose qu'ils n'ont pas souhaité le corriger car ce bug n'est pas critique et des workarounds sont très simple à mettre en oeuvre. Une mise à jour de la documentation est donc appropriée.
En attendant cette mise à jour, pensez-donc bien à rajouter une extension .dll ou .exe aux paths que vous définissez via la propriété OutputAssembly si vous souhaitez compiler du code VB via CodeDom.