analyse.main.search.coarse.distance    = 5; чуть уменьшен радиус поиска
analyse.main.search.coarse.bad.sad    = 100; задран порог повторного поиска  для плохих блоков
В остальном - практически также . Пытаюсь посмотреть рип "Три мушкетера" 1080р , что с кинозала . 
Убийственный рип с интерлейсного исходника . Пока для таких поделок скрипт отсутствует ....
Был бы в наличии 1080и - было бы проще ...
Повторюсь ещё раз - шаг 24 пиксела без уточнения . Именно блоки 32*32 позволяют наиболее верно оценить наличие артефактов , вместо "зерна" и просто шума для 1080 ремуксов и хдтв . 
Правда есть проблема - при достаточно большой амплитуде движения невозможно верно установить кол-во плохих блоков . Поскольку настройки такой нет :
mask клип (если задан) используется для задания весов векторов блоков равными соответствующим значениям пикселов кадра маски в центре блока (используйте полностью черный, чтобы отвергнуть блок). Если клип маски не задан, то отвергаются 4 блока у каждой границы (старый до v2.4.3 алгоритм.)
Это из описания функции MDepan из MVTools . Т.е. оно как бы есть , но его как бы нет  
  
Из-за отсутствия этой настройки невозможно уменьшить :
smooth.scene.limits.blocks        = 8;
Т.е. значения меньше приводят к потере уплавнения для движения большой амплитуды . Т.е. , хоть блоки 32*32(шаг 32,28,24 пиксела без уточнения) - самые точные , использовать их достоинства в полную силу тоже невозможно .