Page History

В состав нейроаналитики добавлена утилита, позволяющая создавать кэши сетей на GPU без использования ПК Интеллект. Наличие кэша влияет на ускорение инициализации и оптимизирует потребление видеопамяти.

...

...

...

...

...

Создание GPU кэшей сетей с использованием ключей:

1. -p – ключ для создания кэша для определенной сети.
   Пример команды:

   Code Block
   C:\Program Files (x86)\Интеллект\Modules64\caffewrapper\NeuroAnalyticsGpuCacheGenerator.exe" -g 0 -p "<Системный диск>\<Директория расположения сети>\Название_сети.ann"

   , где ключ -g определяет порядковый номер видеокарты согласно nvidia-smi, а ключ -p позволяет выбрать необходимую сеть для создания кэша. 
   Для создания кэша для нескольких сетей необходимо перечислить пути к выбранным сетям через пробел.
   Пример команды:
   

   Code Block
   C:\Program Files (x86)\Интеллект\Modules64\caffewrapper\NeuroAnalyticsGpuCacheGenerator.exe" -g 0 -p "<Системный диск>\<Директория расположения сети>\Название_сети.ann" "C:\Program Files (x86)\Интеллект\Modules64\caffewrapper\Models\poseEstimator_original.ann"

   
   

2. -v – ключ для вывода лога процедуры в консоль в процессе формирования кэша.
   Пример команды для автоматического создания кэшей 4-х сетей, входящих в нейроаналитику, с выводом логов:
   

   Code Block
   C:\Program Files (x86)\Интеллект\Modules64\caffewrapper\NeuroAnalyticsGpuCacheGenerator.exe" -g 0 -v

   Пример команды:
   

   Code Block
   C:\Program Files (x86)\Интеллект\Modules64\caffewrapper\NeuroAnalyticsGpuCacheGenerator.exe" -g 0 -p "<Системный диск>\<Директория расположения сети>\Название_сети.ann" -v

   
   

3. --int8=1 – ключ для создания квантизированного варианта кэша для тех сетей, для которых доступна квантизация. По умолчанию: --int8=0 – выключен.
   Пример команды:
   

   Code Block
   C:\Program Files (x86)\Интеллект\Modules64\caffewrapper\NeuroAnalyticsGpuCacheGenerator.exe" -g 0 --int8=1

   
   

   Note
   title Внимание!
   Сети, для которых доступен режим квантизации, входят в нейроаналитику вместе с одноименным файлом *.info

   Сети, для которых доступен режим квантизации:

   1. GeneralNMCar_v1.0GPU_onnx.ann – транспортные средстваАвто обычный ракурс.
   2. GeneralNMHuman_v1.0GPU_onnx.ann – человекЛюди обычный ракурс.
   3. GeneralNMHumanTopView_v0.8GPU_onnx.ann – человек, Люди вид сверху.