Осторожно, матан! 
Вот есть вектора движения. У каждого вектора есть число показывающее его "качество". В обычном виде это число SAD - тупая арифметическая фигня, сумма разностей яркостей точек.
Этот самый SAD векторов используется для
1. маскирования аретфактов, если оно включено: замазываем то место где SAD слишком большой
2. определения общего "качества" сцены - если всё в среднем слишком плохо, то считаем что это смена сцены, ну или снижаем общую плавность в зависимости от настройки "добавление промежуточных кадров". При "равномерной интерполяции" - работает только определение смены сцен.
Теперь включаем NVOF.
Видяха кроме векторов движения сама расчитывает для них "качество". Это тоже какое-то число, чем оно больше - тем вектор "хуже". Проблема в том что это НЕ SAD. Это хрен знает что, считаемое никто не знает как.
А все алгоритмы маскирования и "снижения плавности" заточены именно на SAD.
Для 20хх нормально работает домножение этого числа на какой-то линейный коэффициент, и дальше мы просто считаем что это вот как будто SAD.
В 30хх число считается явно как-то более по другому чем в 20хх. И главное: нигде не описано что же именно изменилось.
Короче. Этот самый smooth.nvof.cost - это коэффициент пропорциональности, на что домножается это неведомое число чтобы получился "как будто SAD".
Зависит от него только маскирование ("подавление артефактов") (если включено) и общая плавность (если включен "адаптивный" режим). Всё.
На сами по себе вектора движения и получаемые от них артефакты оно не влияет вообще никак.