Оверлей тут как-бы и не совсем то. В DirectShow есть такой фильтр - называется Overlay Mixer. Используется для смешивания видеопотоков или наложения битмапа на видео и вывода всей этой бодяги в другой фильтр - VideoRenderer. Video Renderer уже и выводит это хозяйство в оверлейное окно или врукопашную рисует его поверх окна. Hо между наличием Overlay Mixer и оверлеем видюхи есть прямая связь. Если видеокарта держит оверлей и OverlayMixer включен - 100% видео пойдет в оверлее. Если OverlayMixer выключен, тут всё зависит от драйвера видюхи - может пойти в оверлее или нет.