Примеры использования Саванта

Анонсирован запуск новой версии Savant 0.2.7 включает несколько исправлений ошибок, четыре новые демоверсиии другие улучшения, включая документацию и сравнительный анализ.

Для тех, кто не знаком с фреймворком, вы должны знать, что это берет на себя всю работу с GStreamer или FFmpeg, что позволяет сосредоточиться на создании оптимизированных конвейеров вывода с использованием декларативного (YAML) синтаксиса и функций Python.

Ученый скрывает все внутренности Gstreamer от разработчика и предоставляет практические инструменты для реализации приложений потокового ИИ в реальной жизни. Использует стандартную модель Nvidia PeopleNet. обнаруживать людей и их лица и особенно в местах, где действуют правила конфиденциальности, система позволяет отслеживать и размывать лица

Основные новые возможности Savant 0.2.7

Эта новая версия Savant 0.2.7 представляет ряд важных функций, которые iИнтеграция с Прометеем, благодаря чему конвейер и адаптер буфера теперь могут экспортировать метрики выполнения в Prometheus и Grafana, улучшая наблюдаемость и мониторинг производительности, а также режим выполнения «Только компиляция» в котором модули теперь могут компилировать модели, полученные на основе TRT, без запуска конвейера, что повышает предсказуемость развертывания конвейера.

Также реализован буферный адаптер., который реализует постоянный транзакционный буфер на диске для передачи данных между адаптерами и модулями, что позволяет разрабатывать надежные конвейеры, устойчивые к всплескам трафика.

Кроме того, Савант 0.2.7 сейчас предлагает новые API, среди которых выделяется cКонтроллер «Выключение в PyFunc», это новый API, который облегчает правильное управление операциями закрытия конвейера для освобождения ресурсов и уведомления внешних систем о прекращении, и также API использования очереди для PyFunc с помощью которого Savant позволяет добавлять очереди между PyFuncs для реализации параллельной обработки и управления пакетным трафиком.

Кроме того, также представлен в Savant 0.2.7  la добавление четырёх новых демо, расширяющие возможности и универсальность платформы:

1. Модель обнаружения RT-DETR: Эта демонстрация демонстрирует применение модели обнаружения RT-DETR в реальном времени с помощью Savant. Хотя эта модель может быть немного медленнее стандартной YOLOV8, она открывает новые возможности для компьютерного зрения в реальном времени, поскольку основана на трансформаторе.
2. Постобработка на основе CuPy: Savant 0.2.7 представляет ярлык для тензоров, отображаемых на графическом процессоре, и улучшенные функции, которые преобразуют эти тензоры в различные форматы, такие как OpenCV GpuMat, PyTorch и CuPy. Это улучшение особенно полезно для моделей, включающих большие тензоры и сложную постобработку.
3. Интеграция с PyTorch: Savant теперь демонстрирует интеграцию PyTorch в свой конвейер, позволяющую выполнять логический вывод и постобработку с ускорением на графическом процессоре на чистом Python без чрезмерного переключения между процессором и графическим процессором.
4. Ориентированные ограничивающие рамки: платформа теперь поддерживает ориентированные ограничивающие рамки, что упрощает ее использование в приложениях, требующих обнаружения объектов по углам поворота.

Из другие особенности, которые выделяются этой новой версии:

• Фильтрация входных и выходных кадров: Savant теперь позволяет фильтровать данные, чтобы избежать ненужной обработки видеокадров.
• Постобработка модели на графическом процессоре: Savant обеспечивает прямой доступ к выходным тензорам модели из памяти графического процессора, повышая эффективность обработки больших тензоров.
• Функции рендеринга памяти графического процессора: предусмотрены функции для эффективного преобразования буферов памяти между различными форматами на графическом процессоре.
• Расширенные операции по изменению атрибутов объектов: были реализованы новые операции, которые облегчают изменение атрибутов объектов в Savant.

И последнее, но не менее важное: стоит упомянуть, что Savant 0.2.7 — это последняя функциональная версия ветки 0.2.X. Следующие выпуски ветки 0.2.X будут выпусками с обслуживанием и исправлением ошибок. Разработка функций переносится в ветку 0.3.X на основе DeepStream 6.4, и упоминается, что это не так. будет поддерживать семейство Jetson Xavier, поскольку Nvidia не поддерживает их с DS 6.4.

наконец, если вы интересно узнать об этом больше об этой новой версии вы можете проверить подробности По следующей ссылке.