У тебя отсутствует библиотека кодирования x264.
Жми в проге Ctrl + U или Options->Update. Откроется менюшка обновления компонентов программы. Там либо обновляй все, что доступно (включая дополнительные профили кодирования), либо выбирай вручную что тебе нужно (х264 находится в External programs).
Думаю это решит проблему (библиотеку также можно скачать вручную с приведенного выше сайта).