Нет, дело не в кодеках. У VirtualDub соглашение с Майкрософтом, поэтому он из принципа не открывает фильмы, кодированные майкрософтовскими кодеками, в частоности, VFW. И предлагает использовать только майкрософтовский Media Player (а вот тут на испуг берет: откроется любым плеером, если установлен кодек, а он есть в K-Lite Codec Pack, и можно конвертнуть другим конвертором.

А VirtualDub не инсталлируется, его "инсталлятор" (за редким исключением, когда в этом архиве предусмотрен завтозапуск файла auxsetup.exe, о котором ниже) это просто самораспаковыающийся архив, и если вы не запускали вручную файл auxsetup.exe (с помощью которого можно зарегистрировать некоторые библиотеки, что не обязательно и их не регистрируют), в реестре просто рописаны ваши настройки.

Поэтому запустите файл auxsetup.exe (он в папке, в которой у вас VirtualDub и поочередно нажмите кнопочки "Удаление DLL" и "Удаление". После чего папку VirtualDub можно поросту удалить.