[ad_1]
«Con la capacidad de ofrecer un impresionante modelo de 100 mil millones de parámetros en una tarjeta de ancho único y 150 W de eficiencia energética, establece un nuevo estándar en la industria». ~ Andrew Feldman.
Qualcomm ha presentado Qualcomm Cloud AI 100 Ultra, la última incorporación a su línea de tarjetas de inferencia en la nube de inteligencia artificial (IA) diseñadas específicamente para manejar IA generativa y modelos de lenguaje grande (LLM).
Se espera que esta nueva tarjeta tenga un rendimiento hasta cuatro veces mayor que su predecesora que utiliza los núcleos de inteligencia artificial avanzados de Qualcomm. Admite de manera eficiente 100 mil millones de modelos de parámetros en una sola tarjeta de 150 vatios y 175 mil millones de modelos de parámetros con dos tarjetas. Los modelos más grandes se pueden administrar combinando varias tarjetas Qualcomm Cloud AI 100 Ultra utilizando Qualcomm AI Stack y Cloud AI SDK.
Como acelerador de IA programable, Qualcomm Cloud AI 100 Ultra se adapta a los avances y formatos de datos actuales de la IA. Se integra perfectamente con la pila de IA de Qualcomm, lo que permite una fácil portabilidad y optimización del modelo.
Hewlett Packard Enterprise (HPE) planea integrar Qualcomm Cloud AI 100 Ultra en su servidor HPE ProLiant DL380a Gen 11, diseñado para cargas de trabajo de IA generativa, incluido el procesamiento del lenguaje natural (NLP).
“Para desbloquear el valor de la IA generativa, las empresas necesitan una arquitectura nativa de IA diseñada específicamente para respaldar cada parte de su viaje, incluida la inferencia. «Al trabajar con Qualcomm, esperamos ofrecer a nuestros clientes una solución informática optimizada para la inferencia y que ofrezca el rendimiento y la eficiencia energética necesarios para implementar y acelerar la inferencia de IA a escala», afirmó Justin Hotard, vicepresidente ejecutivo y director general de High Computación de rendimiento, IA y laboratorios en HPE.
Andrew Feldman, director ejecutivo de Cerebras, elogió Qualcomm Cloud AI 100 Ultra por sus capacidades, eficiencia energética y rendimiento, especialmente cuando se combina con la tecnología de entrenamiento de Cerebras.
En diversas aplicaciones, Qualcomm Cloud AI 100 Ultra ofrece de dos a cinco veces el rendimiento por dólar del costo total de propiedad (TCO) en comparación con los competidores en cargas de trabajo de IA generativa, LLM, PNL y visión por computadora. Ofrece un equilibrio entre precio/rendimiento, eficiencia energética, escalabilidad y seguridad, lo que la convierte en una solución ideal para empresas que buscan aprovechar la IA para obtener resultados transformadores y al mismo tiempo respaldar objetivos de sostenibilidad.
[ad_2]