С помощью VirtualDub можно сделать ВСЕ, что возможно сделать в контейнере AVI (поскольку открывать файлы Даб может в любом формате, если есть нужные плагины, а сохранять по определению может только в AVI. Для этого надо "всего лишь" написать нужные фильтры.

В частносити, для наложения субтитров достаточно много готовых фильтров уже есть. Набейте в Гугле запрос "фильтры наложения субтитров для VirtualDub" и найдете, нде и что скачать.