Qualcomm se alía con Meta para llevar la IA a los dispositivos mediante LLaMA 2
Ambas compañías están trabajando para optimizar la ejecución de los grandes modelos del lenguaje de LLaMA 2 directamente en el dispositivo, es decir, sin depender únicamente del uso de servicios en la nube.
En la carrera por la inteligencia artificial (IA) generativa, Meta ha logrado un sprint con el reciente lanzamiento de LLaMA 2, la siguiente generación de su gran modelo lingüístico de código abierto. En el marco del anuncio, Meta se ha aliado con Qualcomm para optimizar de manera conjunta la ejecución de los grandes modelos del lenguaje de LLaMA 2 directamente en el dispositivo, es decir, sin depender únicamente del uso de servicios en la nube. La capacidad de ejecutar modelos generativos de IA como LLaMA 2 en dispositivos como smartphones, PC, cascos VR/AR y vehículos permite a los desarrolladores ahorrar en costes cloud y ofrecer a los usuarios experiencias privadas, más fiables y personalizadas.
Como resultado, Qualcomm planea poner a disposición implementaciones de IA basadas en LLaMA 2 en dispositivos para permitir la creación de nuevas e interesantes aplicaciones de IA. Esto permitirá crear nuevos casos de uso como asistentes virtuales inteligentes, aplicaciones de productividad, herramientas de creación de contenidos, entretenimiento y mucho más. Estas nuevas experiencias de IA en el dispositivo, impulsadas por Snapdragon, podrán disfrutarse también en áreas sin conectividad o incluso en modo avión.
“Aplaudimos el enfoque de Meta hacia una IA abierta y responsable y nos comprometemos a impulsar la innovación y reducir las barreras de entrada para desarrolladores de cualquier tamaño llevando la IA generativa a los dispositivos", afirmó Durga Malladi, vicepresidenta sénior y directora general de Tecnología, Planificación y Negocios de Soluciones Edge de Qualcomm Technologies. "Para escalar eficazmente la IA generativa en la corriente principal, la IA necesitará ejecutarse tanto en la nube como en dispositivos en el borde, como teléfonos inteligentes, computadoras portátiles, vehículos y dispositivos IoT".
Horizonte 2024
Según han avanzado fuentes corporativas está previsto que Qualcomm ponga a disposición la nueva implementación de IA en dispositivos impulsados por Snapdragon a partir de 2024. Sin embargo, apuntan, “los desarrolladores pueden empezar hoy mismo a optimizar las aplicaciones para la IA en el dispositivo utilizando Qualcomm AI Stack, un conjunto de herramientas específicas que permiten procesar la IA de forma más eficiente incluso en dispositivos pequeños, finos y ligeros”.
