[ad_1]
La IA está de moda, especialmente la IA generadora de texto, también conocida como grandes modelos de lenguaje (piense en los modelos estilo ChatGPT). En una encuesta reciente de aproximadamente 1000 organizaciones empresariales, el 67,2% dijo que considera que la adopción de modelos de lenguajes grandes (LLM) es una máxima prioridad para principios de 2024.
Pero hay obstáculos en el camino. Según la misma encuesta, la falta de personalización y flexibilidad, así como la incapacidad de proteger el conocimiento corporativo y la propiedad intelectual, impidieron que muchas empresas utilizaran LLM en producción.
Esto hizo pensar a Varun Vummadi y Esha Manideep Dinne: ¿Cómo podría ser una solución al desafío de la adopción de LLM en las empresas? En busca de una empresa de este tipo, fundaron Giga ML, una startup que está construyendo una plataforma que permite a las empresas implementar LLM en las instalaciones, aparentemente reduciendo costos y manteniendo la privacidad.
«La protección de datos y la adaptación de los LLM se encuentran entre los mayores desafíos que enfrentan las empresas cuando adoptan los LLM para resolver problemas», dijo Vummadi a TechCrunch en una entrevista por correo electrónico. «Giga ML aborda ambos desafíos».
Giga ML ofrece su propio conjunto de LLM, la «Serie X1», para tareas como generar código y responder preguntas comunes de los clientes (por ejemplo, «¿Cuándo puedo esperar que llegue mi pedido?»). La startup afirma que los modelos basados en Llama 2 de Meta superan a los LLM populares en ciertos puntos de referencia, particularmente el conjunto de pruebas de diálogo MT-Bench. Pero es difícil decir cuál es el rendimiento cualitativo del X1; Este periodista probó la demostración en línea de Giga ML pero encontró problemas técnicos. (La aplicación expiró sin importar el mensaje que ingresé).
Aunque sean modelos Giga ML Son Aunque son superiores en algunos aspectos, ¿pueden realmente causar sensación en el océano de los LLM fuera de línea de código abierto?
Cuando hablé con Vummadi, tuve la sensación de que Giga ML no se trata tanto de crear los LLM más potentes del mercado, sino más bien de crear herramientas que permitan a las empresas crear LLM y optimizar plataformas localmente sin depender de recursos de terceros.
«La misión de Giga ML es ayudar a las empresas a implementar LLM de forma segura y eficiente en su propia infraestructura local o en su nube privada virtual», dijo Vummadi. «Giga ML simplifica el proceso de capacitación, ajuste y ejecución de LLM administrándolo a través de una API fácil de usar, eliminando cualquier sobrecarga asociada».
Vummadi destacó los beneficios de privacidad de ejecutar modelos fuera de línea, beneficios que probablemente resulten atractivos para algunas empresas.
Predibase, la plataforma de desarrollo de IA de código bajo, ha descubierto que menos de una cuarta parte de las empresas se sienten cómodas utilizando LLM comerciales debido a la preocupación de compartir datos confidenciales o de propiedad exclusiva con los proveedores. Casi el 77% de los encuestados dijeron que no utilizan LLM comerciales más allá de los prototipos en producción o no planean hacerlo, citando problemas relacionados con la privacidad, el costo y la falta de personalización.
«Los gerentes de TI a nivel C-suite encuentran valiosas las ofertas de Giga ML debido a la implementación segura de LLM en las instalaciones, los modelos personalizables adaptados a su caso de uso específico y las inferencias rápidas que garantizan el cumplimiento de los datos y la máxima eficiencia». dijo Vummadi.
Giga ML, que hasta la fecha ha recaudado aproximadamente 3,74 millones de dólares en financiación de capital de riesgo de Nexus Venture Partners, Y Combinator, Liquid 2 Ventures, 8vdx y varios otros, planea ampliar su equipo de dos personas en un futuro próximo y ampliar la investigación y promoción de productos. desarrollo. Parte del capital también se destina a respaldar la base de clientes de Giga ML. dijo Vummadi, que actualmente incluye empresas «empresariales» no reveladas en los sectores financiero y sanitario.
[ad_2]