Qualcomm prueba generadores de imágenes de IA y chatbots de texto que se ejecutan localmente en teléfonos Android
Los conjuntos de chips Qualcomm alimentan muchos teléfonos inteligentes y tabletas con Android, así como algunas PC y dispositivos integrados con Windows. La compañía reveló el lunes algunos avances que podrían significar que tu próximo teléfono Android tendrá su propio chatbot local tipo ChatGPT o un generador de imágenes tipo Stable Diffusion, sin necesidad de servidores externos ni suscripciones de pago.
Qualcomm hizo muchos anuncios relacionados con la IA, incluido un "Centro de IA de Qualcomm" que brinda a los desarrolladores de aplicaciones acceso a un modelo de IA optimizado, así como nuevos módems con "5G impulsado por IA".
La compañía también discutió la ejecución de grandes modelos multimodales (LLM) en un teléfono Android con chips Snapdragon de Qualcomm, lo que podría permitir que se ejecuten más tareas de IA localmente en un teléfono inteligente, en lugar de utilizar un servicio externo como ChatGPT, Microsoft Copilot o Galaxy AI. Este enfoque tiene ventajas de privacidad y usabilidad: no se necesita un servidor externo para procesar las respuestas (lo que podría costar dinero) y todos los datos permanecen en tu dispositivo.
En un comunicado de prensa, Qualcomm dice que tiene el primer LMM del mundo ejecutándose en un teléfono inteligente Android, pero no mencionó el hardware exacto que se utiliza (presumiblemente un teléfono con el último chip Snapdragon 8 Gen 3 de Qualcomm). La compañía describió la demostración como "un LMM de más de 7 mil millones de parámetros que puede aceptar múltiples tipos de entradas de datos, incluyendo texto e imágenes, y generar conversaciones de varios turnos con un asistente de inteligencia artificial sobre una imagen, ejecutándose en un teléfono inteligente Android por primera vez". Es una versión modificada del modelo LLaVA.
Qualcomm también mostró una versión modificada de Stable Diffusion, el popular generador de imágenes de IA, que se ejecuta en un teléfono Android. Stable Diffusion se ejecuta en el modo "Adaptación de rango bajo" (LoRA), que reduce el tamaño de los datos de entrenamiento y al mismo tiempo ofrece una calidad y un rendimiento decentes. Esta configuración no funcionará tan bien como Stable Diffusion en una tarjeta gráfica de escritorio completa o en un servidor GPU remoto, pero sigue siendo impresionante. Qualcomm probó en 2023 otra demostración de Stable Diffusion en un teléfono Android, que era capaz de generar una imagen de 512x512 en menos de 15 segundos.
Estas demostraciones existen más como puntos de referencia técnicos para el hardware de Qualcomm que cualquier otra cosa, y no está claro si se convertirá en una aplicación pulida que pueda ejecutar en teléfonos y tabletas con Android. Es posible que Qualcomm comparta su trabajo en su nuevo "AI Hub", donde otros desarrolladores puedan usarlo en sus propias aplicaciones para teléfonos y tabletas. Con un poco más de trabajo, podríamos tener un asistente limitado similar a ChatGPT en teléfonos Android sin necesidad de la nube, algo en lo que se rumorea que Apple está trabajando para iPhone.
