here's a full script you can use for testing
run with
> vspipe test.py .

variables:
- frame size on line 16, "length" is the number of source frames
- CPU threads on line 6
- GPU streams on line 27
- SVP's add. functions on/off - comment line 69

I thought the problem was in a CPU threads number, which was 4 before, and it's not enough to feed the GPU. Now it's 8, but you're saying there's no difference. Which is strange.
DON'T FORGET TO RESTART SVP after .js/.py file replacing, it may not reload these files automatically in some cases

---
BTW use_cuda_graph=True gives only like 2% difference in my case

try this

> 115 fps in 1080p.

just to be sure - what is the encoding speed with the generic SVP video profile?
I hope you're using H.264/NVENC, not "software" mode as on the screenshot above

> Based on the benchmark

benchmark is for 4.4 model, and I set 4.6 as a default one here

plus note the "GPU threads" option in the video profile, it directly translates into "TRT streams" count

> you need put the *.onnx files here C:\Program Files (x86)\SVP 4\rife\models\rife

yeah, my bad... fixed now

That one - https://github.com/AmusementClub/vs-mlrt - is MUUUUCH better
-------------
Post updates:
15/01: instructions removed, just install the "TensorRT" package via SVP's "Additional programs and features"
09/01: updated both libs and scripts, should improve 4K performance on 4080+

> isn't it should be FP16?

replace base.py

> realtime with mpv is working for now

doesn't work for me hmm
"CUDA error: invalid device context"

read the instructions _carefully_

UHD
I propose to change it: vs.RGBS to vs.RGBH

great advice big_smile
updated the post above

aloola
The output video still has the same old FPS and it's in slow motion and the video duration x2.

looks like a vsrife's bug, fixed .py file attached above
https://github.com/HolyWu/vs-rife/issues/22

Throws a CUDA device context error when try to run it in a real-time mpv. Transcoding does work though hmm

=== RIFE / PyTorch+TensorRT installation ===

DO NOT DO THIS!
You DON'T NEED IT!
I'm SERIOUS! big_smile

============

!!! Advanced users only, if you don't know what this is all about - you don't need it !!!

0. Update SVP via online updater (this will update Python to ver. 3.10.9)

1. Dependencies installation:
--------------
Download TensorRT libs: https://github.com/HolyWu/vs-rife/relea … 2_win64.7z
unpack CUDA-blah-blah.7z to SVP 4\mpv64

run cmd as Administrator

cd SVP 4\mpv64

python get-pip.py

python -m pip install torch torchvision --extra-index-url https://download.pytorch.org/whl/cu117
python -m pip install tensorrt-8.5.2.2-cp310-none-win_amd64.whl
python -m pip install torch-tensorrt-fx-only tqdm
python -m pip install -U --no-deps vsrife
python -m vsrife

A quick fix for vsrife's "slowmo" bug: replace __init__.py in SVP 4\mpv64\Lib\site-packages\vsrife\


2. SVP modification
---------------
Replace SVP 4\script\generate.js and base.py with the attached ones

menu -> Applications settings -> Additional options -> All settings, go to 'User defined options'
Title: TensortRT; Script name: rife_trt; Other values by default - "FRC profile", "ON or OFF"
Click 'Add option'

Go to the RIFE video profile, see the added TensortRT on/off swtich.
Make a copy of the RIFE video profile, one with TensorRT ON and another with OFF.

----------------
For a given video resolution the first-time start is super-slow (while it generates TRT net in a cache folder --> %APPDATA%\SVP4\cache\trt), so better do it in a "transcoding" mode.

> даже отдельных приставок нет нормальных

Apple TV big_smile

SVP тут вообще не при чем.
Всё что "в терминале" - это Homebrew, все претензии туда. Они стабильно поддерживают только ТРИ последние версии ОС, всё что раньше ставить все-равно можно, но будет долго и мрачно собираться из исходников, и без 100% гарантии успеха.

"more than 2x" requires two times more GPU power

work in progress, but with a low priority cause the current FRUC API only allows x2 interpolation which makes it not so interesting as it could be

look at compute graphs, not the overall usage

guys, just a reminder that this is a SVP's forum

843

(458 replies, posted in Using SVP)

mpv w/o vapoursynth support

так я третий раз скажу - падает видео-драйвер

покажите выхлоп clinfo64, может там сразу понятно будет, что необычного...

SVP 4\utils\clinfo.exe - работает, или падает?

Конкретно с VLC такая штука big_smile:

HDR (что нормальный, что конверсия в SDR) работает только с выводом через D3D11.
А когда мы запускаем VLC из меню SVP, то по-умолчанию оно ставит ему D3D9, и HDR весь бледный.
Почему так? Потому что с d3d11 были явные проблемы с плавностью вывода, d3d9 гораздо плавнее. Может быть (может быть!) сейчас это уже не так. ХЗ.

Если хочется чтоб при запуске из SVP запускалось в режиме d3d11, то надо пойти во "Все настройки" и сделать main.setup.vlc.d3d9 = false

это HDR видео? не на HDR экране?

тогда тут важно понимать, что при просмотре HDR видео в SDR режиме вообще надо сразу забыть о том что такое "правильные цвета".
они все - неправильные. можно только обсуждать что вот так нравится больше, а вот этак - меньше.
причем результат зависит от кучи переменных, как минимум в каждом плеере/рендерере он будет разным.
MPC-HC + EVR + "восстановление цвета" в SVP - одно
MPC-HC + MPC-VR - другое
MPC-HC + madVR - третье, плюс куча настроек
mpv - четвертое, плюс куча настроек
VLC - пятое big_smile

> Цвета в видео становятся "бледными"

это обычно означает что пропадает информация о том что видео было HDR, и плеер никакого доп. колдунства не делает
вроде, последний раз когда я смотрел, в VLC HDR-данные нормально проходили hmm

848

(121 replies, posted in Using SVP)

https://www.svp-team.com/wiki/SVP:Mac

SVP menu -> Utilities -> Reinstall mpv in Homebrew

849

(121 replies, posted in Using SVP)

then there's no /opt/homebrew/lib/libmpv.2.dylib
probably mpv was not actually installed in homebrew

850

(121 replies, posted in Using SVP)

run '/Applications/IINA.app/Contents/MacOS/IINA' from the Terminal. what do you see?

---
ensure you ran IINA for the first time after installing new version BEFORE replacing libmpv