Page History

...

1. Остановить сервер (см. Остановка сервера).
   
2. Запустить утилиту Генератор кэша GPU из меню Пуск → Программы → Генератор кэша GPU. При запуске утилиты откроется окно с требованием: Внимание. Пожалуйста, остановите сервер VMS и другие службы, использующие ресурсы GPU. Это критически важное требование для обеспечения максимальной эффективности процесса создания кэша. Если сервер и службы не будут остановлены, утилита может продолжить работу, но результат кэширования будет менее эффективным, а процесс — более медленным, из-за конкуренции за ресурсы GPU.
3. Для подтверждения остановки всех приложений, использующих GPU, нужно нажать на кнопку Да. Я закрыл все приложения, использующие GPU.

4. Установить флажки Image Removed напротив Image Added напротив детекторов/нейросетей, для которых требуется создать кэш в окне утилиты. Окно разделено на две взаимосвязанные области:

   • Детекторы — список доступных детекторов.
   • Нейронные сети — список нейросетей, для которых можно сгенерировать кэш.
     

   Элементы в этих областях связаны: выбор детектора в левой части автоматически отображает связанные с ним нейросети справа, и наоборот.

   В таблице представлен перечень детекторов и связанных с ними нейросетей:
   

   Детекторы	Нейронные сети
   Детектор штрихкодов	GeneralNM barcodes
   Детектор экипировки (СИЗ)	Ppe helmet (head) general Ppe safety vest (body) general Ppe segmentation by pose origin
   Детектор огня	Best fire v1 (Обычный режим) Fire scanned v1 (Режим сканирования)
   Мета-детектор	Blip img only Blip text only
   Нейросчетчик или Детектор остановившегося объекта	GeneralNM car v1.0 GeneralNM human v1.0 GeneralNM human and vehicle large v1.0 GeneralNM human and vehicle medium v1.0 GeneralNM human and vehicle nano v1.0 GeneralNM human top view large v1.0 GeneralNM human top view medium v1.0 GeneralNM human top view nano v1.0 GeneralNM human top view v0.8
   Нейротрекер	GeneralNM car v1.0 GeneralNM human v1.0 GeneralNM human and vehicle large v1.0 GeneralNM human and vehicle medium v1.0 GeneralNM human and vehicle nano v1.0 GeneralNM human top view large v1.0 GeneralNM human top view medium v1.0 GeneralNM human top view nano v1.0 GeneralNM human top view v0.8 Dpe 1638 light pa 100 k (Распознавание атрибутов) Reid 15 0 256 osnetfpn segmentation noise 20 common 29 (Поиск похожих)
   Детектор позы	General human pose estimation General human pose estimation yolov8 large General human pose estimation yolov8 medium General human pose estimation yolov8 nano
   Маска конфиденциальности на основе человека	General human pose estimation
   Маска приватности	Privacy masking origin
   Детектор дыма	Best smoke v1 (Обычный режим) Smoke scanned v1 (Режим сканирования)
   Детектор уровня воды	Water level rule net origin
   Пользовательские нейронные сети	При использовании уникальной нейросети требуется указать путь к файлу в формате *.ann или *.annext, при условии, что данная нейросеть может быть запущена на GPU Note title Внимание! Использование подготовленной нейросети для конкретной сцены позволяет детектировать объекты только определенного типа (например, человек, велосипедист, мотоциклист и т.д.). Для подготовки нейросети необходимо обратиться в компанию ITV (см. Требования ко сбору данных для обучения нейросетей). При использовании стандартной нейросети (обучение которой не выполнялось в эксплуатируемых условиях) гарантируется общая точность 80-95% и процент пропуска 5-20% (см. Требования ко сбору данных для обучения нейросетей). Сетевое указание файла в ОС Windows недопустимо. Файл нейросети должен располагаться локально, т.е. на том же сервере, где установлен ПК Интеллект Х. Для корректной работы нейросети в ОС Linux соответствующий файл должен располагаться локально в директории /opt/ITV/DetectorPack/NeuroSDK, либо в сетевой папке с соответствующими правами доступа. При повторном запуске утилиты Генератор кэша GPU файл уникальной нейросети не будет отображаться в списке Нейронные сети.

   
   
5. Нажать на кнопку Image Removed в Image Added в нижней правой части окна. 
6. Настроить параметры генерации кэша, которые указаны в таблице:
   

   Параметр	Значение	Описание
   Графические процессоры для выполнения операций
   NVIDIA <модель> (см. Список графических процессоров Nvidia)	Image AddedImage Removed	Note title Внимание! Генерация кэша поддерживается только для видеокарт NVIDIA, так как технология TensorRT не поддерживает другие видеокарты. Установить флажок напротив видеокарты, для которой будет создан кэш
   	Image AddedImage Removed
   Дополнительные параметры
   Выполнять калибровку int 8	Image RemovedImage Added	Note title Внимание! Данный параметр доступен только для нейросетей, для которых доступен режим квантования, и которые входят в состав пакета нейроаналитики вместе с одноименным файлом *.info: GeneralNM car v1.0, GeneralNM human v1.0, GeneralNM human and vehicle large v1.0, GeneralNM human and vehicle medium v1.0, GeneralNM human and vehicle nano v1.0, GeneralNM human top view large v1.0, GeneralNM human top view medium v1.0, GeneralNM human top view nano v1.0, GeneralNM human top view v0.8. Если в предыдущем окне были выбраны нейронные сети, для которых режим квантования недоступен, то для них кэш сгенерирован не будет. По умолчанию флажок снят. Для включения режима квантования Int8 для нейросети нужно установить флажок
   	Image RemovedImage Added
   Подробный режим ведения журнала	Image RemovedImage Added	По умолчанию флажок снят. Для включения логирования процесса инициализации и генерации кэша нужно установить флажок Info title Примечание Включение параметра предоставляет детальную информацию о процессе генерации кэша, увеличивает объем логов и может замедлить процесс генерации. Логи для каждой нейронной сети сохраняются в отдельном файле в директории C:\Пользователи\<имя_пользователя>\.gpuCacheGenerator\logs. Предыдущие логи автоматически удаляются при каждом новом запуске утилиты.
   	Image RemovedImage Added
   Кэш будет сохранен в каталог:		Выбрать директорию, в которой будет храниться кэш по всем используемым детекторам и нейросетям. Ориентировочный размер кэша будет зависеть от количества используемых нейросетей и их типа. Минимальный размер – 70 МБ. Если системная переменная GPU_CACHE_DIR не задана, кэш будет сохранен по умолчанию в директории: C:\Пользователи\<имя_пользователя>\.gpuCacheGenerator\ (см. Приложение 9. Создание системных переменных). Если переменная GPU_CACHE_DIR задана, кэш будет сохранен по указанному в ней пути. При выборе директории кэша через утилиту значение переменной GPU_CACHE_DIR будет обновлено на выбранный путь Note title Внимание! Если в значении системной переменной GPU_CACHE_DIR указанная существующая папка содержит символы кириллицы (например: D:\Кэш), необходимо убедиться, что в настройках региона во вкладке Дополнительно параметр Текущий язык программ, не поддерживающих Юникод имеет значение Русский (Россия).

7. Нажать на кнопку Image Removed в кнопку Image Added в нижней правой части окна для перехода к генерации кэша для всех выбранных нейросетей. Если выбрано несколько нейросетей, они будут обработаны последовательно. 
   Для каждой нейросети отображается текущий статус выполнения. Возможные статусы:
   • готово (строка выделяется зеленой рамкой),
   • в процессе,
   • в очереди,
   • ошибка (строка выделяется красной рамкой).
8. После окончания процесса генерации нажать на кнопку Image Removed в Image Added в нижней правой части окна.

...

1. Открыть файл .msi утилиты.
2. В открывшемся окне нажать на кнопку Далее.
   Image RemovedImage Added
3. Нажать на кнопку Восстановить. 
   Image RemovedImage Added
4. В открывшемся окне подтвердить восстановление, нажав на кнопку Восстановить.
   
5. Дождаться окончания процесса восстановления утилиты. После восстановления будет выведено новое диалоговое окно с сообщением о завершении восстановления утилиты.
   
   
6. Нажать на кнопку Готово.
   

...

1. Открыть файл .msi утилиты.
2. В открывшемся окне нажать на кнопку Далее.
   Image RemovedImage Added
3. Нажать на кнопку Удалить.
   Image RemovedImage Added 
4. В открывшемся окне подтвердить удаление, нажав на кнопку Удалить.
    
5. Дождаться окончания процесса удаления утилиты. После завершения процесса будет выведено новое диалоговое окно с сообщением о завершении удаления утилиты.
   
   
6. Нажать на кнопку Готово.

...