[ad_1]
AWS Panorama es una colección de dispositivos de aprendizaje automático (ML) y un kit de desarrollo de software (SDK) que lleva la visión artificial a las cámaras de protocolo de Internet (IP) locales. Las opciones de dispositivos de AWS Panorama incluyen AWS Panorama Appliance y Lenovo ThinkEdge SE70 con tecnología de AWS Panorama. Dependiendo de su aplicación individual, estas opciones de dispositivos le ofrecen opciones en términos de precio y rendimiento. Ambos dispositivos de AWS Panorama se basan en NVIDIA® Jetson™ System on Modules (SOM) y utilizan NVIDIA JetPack SDK.
AWS ha lanzado una nueva actualización de software para AWS Panorama que admite NVIDIA Jetpack SDK versión 4.6.2. Puede descargar esta actualización de software y aplicarla al dispositivo AWS Panorama a través de un proceso de actualización OTA (over-the-air). Para obtener más detalles, consulte Administración de un dispositivo de AWS Panorama.
Esta versión no es compatible con versiones anteriores de software para AWS Panorama; Debe reconstruir y volver a implementar sus aplicaciones. Esta publicación proporciona una guía paso a paso sobre cómo actualizar las bibliotecas de software de su aplicación a las últimas versiones compatibles.
Resumen de la actualización
La versión 4.6.2 del SDK de NVIDIA Jetpack incluye compatibilidad con las versiones más recientes de CUDA 10.2, cuDNN 8.2.1 y TensorRT 8.2.1. Otras bibliotecas notables que ahora son compatibles son DeepStream 6.0 y Triton Inference Server 21.07. Además, TensorRT 8.2.1 incluye una lista ampliada de compatibilidad con operadores DNN, compatibilidad con Sigmoid/Tanh INT8 para DLA y una mejor integración con TensorFlow y PyTorch. Ahora se admite la conversión de Torch a TensorRT, al igual que TensorFlow a TensorRT, sin necesidad de una conversión intermedia a ONNX. Para obtener más detalles, consulte NVIDIA anuncia TensorRT 8.2 e integraciones con PyTorch y TensorFlow.
Puede volver a implementar sus aplicaciones siguiendo los pasos de las siguientes secciones.
requisitos
Como requisito previo, necesita una cuenta de AWS y un dispositivo panorámico de AWS.
Actualice su dispositivo AWS Panorama
Primero, actualice su dispositivo AWS Panorama a la última versión.
- En la consola de AWS Panorama, elija Dispositivos en el área de navegación.
- Seleccione un dispositivo.
- Elegir ajustes.
- Por debajo software del sistemaSeleccione Mostrar actualización de software.
- Elegir Software del sistema versión 5.0 o posterior, y luego proceda a instalar ese software.
Vuelva a implementar su aplicación
Si no utiliza la función de acceso a la GPU abierta como parte de su aplicación, utilice la función de reemplazo en la consola de AWS Panorama. La función Reemplazar reconstruye su modelo para el software más reciente.
- En la consola de AWS Panorama, elija Aplicaciones proporcionadas en el área de navegación.
- Elige una aplicación.
- Elegir Sustituto.
Para las aplicaciones que usan la función de acceso abierto a la GPU, la actualización generalmente implica otorgar a su contenedor acceso al hardware de la GPU subyacente e implementar y administrar sus propios modelos y tiempos de ejecución. Recomendamos usar NVIDIA TensorRT en su aplicación, pero no está limitado a ello.
También necesita actualizar las bibliotecas de su Dockerfile. Las bibliotecas típicas para actualizar incluyen CUDA 10.2, cuDNN 8.2.1, TensorRT 8.2.1, DeepStream 6.0, OpenCV 4.1.1 y VPI 1.1. Como nota, consulte JetPack SDK 4.6.2 para conocer todos los cambios relacionados con CUDA/NVIDIA en la pila de software.
Ahora reconstruirá los modelos para TensorRT 8.2.1 y actualizará su archivo package.json con los activos actualizados. Ahora puede crear su contenedor con las dependencias y los modelos actualizados e implementar el contenedor de la aplicación en su dispositivo mediante la consola o las API de AWS Panorama.
En este punto, sus aplicaciones de AWS Panorama deberían poder utilizar la versión 4.6.2 del SDK de Jetpack. Las aplicaciones de muestra de AWS Panorama compatibles con esta versión están en GitHub.
Conclusión
Con la nueva actualización de AWS Panorama, debe reconstruir y volver a implementar sus aplicaciones. Esta publicación lo guió a través de los pasos para actualizar sus bibliotecas de software de aplicaciones de AWS Panorama a las últimas versiones compatibles.
Si tiene alguna pregunta, comuníquese con AWS Panorama en AWS re:Post.
Sobre los autores
vinod raman es gerente principal de productos en AWS.
steven blanco es arquitecto sénior de soluciones de visión por computadora/EdgeML en AWS.
[ad_2]