Настройка ускорения запуска нейроаналитики на GPU

Запуск работы алгоритмов нейроаналитики на NVIDIA GPU после перезагурзки Сервера может занимать несколько минут. В это время осуществляется оптимизация нейромоделей под конкретный тип используемого GPU.

Для того чтобы эта операция выполнялась только единожды, можно использовать функцию кэширования. Она сохраняет результат оптимизации на жестком диске и использует его при последующих запусках аналитики.

Для активации кэширования необходимо создать системную переменную GPU_CACHE_DIR и в ее значении указать существующую папку, в которой будет храниться результат оптимизации (см. Приложение 10. Создание системных переменных). 

Ориентировочный размер кэша будет зависеть от количества используемых нейросетей и их типа, минимальный размер 70 МБ.