[ad_1]
Untether AI introdujo una arquitectura en memoria de segunda generación para acelerar la carga de trabajo de inferencia de IA y mejorar la eficiencia hasta 100 veces. En comparación con la arquitectura de primera generación de la empresa, la arquitectura SpeedAI tiene un rendimiento 80 veces mayor para acelerar las redes neuronales. La arquitectura SpeedAI admite 512 elementos de procesamiento conectados directamente a la SRAM dedicada. El cálculo en memoria es más eficiente que la arquitectura tradicional de von Neumann. La arquitectura informática at-memory de segunda generación es un producto de más de 1400 procesadores RISC-V optimizados con instrucciones personalizadas, flujo de datos de bajo consumo y la introducción de un nuevo tipo de datos FP8 que mejora su eficiencia en comparación con los dispositivos RunAI de la generación anterior. cuadruplicado.
«Los méritos de la computación en memoria se han probado con el dispositivo runAI de primera generación, y la arquitectura SpeedAI de segunda generación mejora la eficiencia energética, el rendimiento, la precisión y la escalabilidad de nuestra oferta», dijo Arun Iyengar, director ejecutivo de Untether AI. «Los dispositivos speedAI ofrecen una capacidad incomparable con cualquier otra oferta de inferencia en el mercado».
La creciente demanda de aplicaciones de redes neuronales requiere un alto nivel de precisión para garantizar resultados de alta calidad. Las propiedades como la flexibilidad, el rendimiento en combinación con la eficiencia energética y la precisión son necesarias para un nuevo enfoque de la aceleración de IA que ofrece Untether AI con sus dispositivos SpeedAI. La introducción de dispositivos runAI en 2020 tuvo un nivel de eficiencia energética de 8 TFlops/W para el tipo de datos INT8, mientras que la arquitectura SpeedAI aumentó esta eficiencia energética a 30 TFlops/W. Los dispositivos SpeedAI están diseñados para escalar modelos grandes. Admite una arquitectura de memoria escalonada que permite 238 MB de SRAM para elementos de procesamiento. Ofrece 32 GB de DRAM externa y consta de interfaces PCI Express Gen5 de alta velocidad.
[ad_2]